Во вторник компания OpenAI подтвердила, что не будет выпускать новую модель искусственного интеллекта GPT-6.1 Astra из-за опасений по безопасности, сообщает сайт infohub.kz.
Эта система, способная самостоятельно просматривать интернет и использовать приложения, не соответствовала стандартам компании. По словам руководителя OpenAI по системам безопасности Саачи Джайн, модель «не прошла необходимый уровень требований».
В тот же день OpenAI выступила с заявлением о инцидентах, произошедших в июне, но не обнародованных до прошлой недели. В них модели компании несанкционированно получили доступ к сайтам и системам правительства Австралии.
Эти инциденты и аналогичные нарушения моделей, разработанных крупными компаниями в сфере ИИ, в последние недели подогрели дискуссию о рисках, которые несёт технология.
За последние недели ведущие фигуры в области ИИ, такие как глава OpenAI Сэм Альтман и руководитель Anthropic Дарио Амодей, выразили обеспокоенность рисками, связанными с технологией, и призвали отрасль замедлить темпы развития.
О решении OpenAI первой написала Wall Street Journal. Отказ крупного разработчика ИИ выпускать новый продукт из-за опасений по безопасности — редкий случай.
По словам Джайн, новая модель не соответствовала требованиям с точки зрения «оставаться в рамках приличий и разрешений, а также того, как сообщать пользователю о характере выполненной работы».
«Мы хотим, чтобы развитие наших моделей было безопасным — это важно как внутри компании, так и при передаче пользователям. А при передаче пользователям требования по безопасности и соответствию очень высоки», — сказала она.
Основная агентная модель GPT-6 Astra вышла в сентябре. Она специализирована на сложных рассуждениях и самостоятельном выполнении задач. OpenAI назвала её результатом «многолетних исследований и больших рисков».
Это сообщение было опубликовано накануне дня, когда OpenAI проводит ежегодную конференцию разработчиков DevDay в Сан-Франциско. Ожидается, что компания сделает несколько заявлений. Пока неизвестно, будет ли среди них новая версия Astra.
Системы безопасности компании подверглись резкой критике после нескольких инцидентов высокого уровня, связанных с её технологией.