Илья Суцкевер, соучредитель и бывший главный научный сотрудник OpenAI, открывает новую компанию в области искусственного интеллекта, ориентированную на безопасность. Суцкевер рассказал о Safe Superintelligence Inc. (SSI), стартапе с «одной целью и одним продуктом»: созданием безопасной и мощной системы искусственного интеллекта.

В объявлении SSI описывается как стартап, который «подходит к безопасности и возможностям одновременно», позволяя компании быстро совершенствовать свою систему искусственного интеллекта, сохраняя при этом приоритет безопасности. Он также указывает на внешнее давление, с которым часто сталкиваются команды ИИ в таких компаниях, как OpenAI, Google и Microsoft, заявляя, что «особая направленность» компании позволяет ей «не отвлекаться на управленческие накладные расходы или циклы разработки продукта».

«Наша бизнес-модель означает, что безопасность, защищенность и прогресс изолированы от краткосрочного коммерческого давления», — говорится в объявлении. «Таким образом, мы сможем спокойно масштабироваться». Помимо Суцкевера, соучредителями SSI являются Дэниел Гросс, бывший руководитель отдела искусственного интеллекта в Apple, и Дэниел Леви, который ранее работал техническим сотрудником в OpenAI.