Компания OpenAI отказалась от выпуска новой модели искусственного интеллекта GPT-6.1 Astra, презентация которой была запланирована на октябрь, из-за проблем с безопасностью, поднятых исследователями в ходе внутренних тестов. Об этом в понедельник сообщило издание Wall Street Journal, пишет сайт infohub.kz.
По данным издания, модель, которая должна была появиться в системах ChatGPT и Codex, предназначалась для выполнения более сложных задач без помощи человека.
В начале этого месяца генеральный директор компании Anthropic Дарио Амодеи призвал специалистов отрасли замедлить разработку пограничных моделей искусственного интеллекта. По его мнению, меры безопасности должны успевать за такими темпами развития. Эту позицию поддержали генеральный директор OpenAI Сэм Альтман и генеральный директор SpaceX Илон Маск.
Компания OpenAI не сразу ответила на запрос агентства Reuters о комментарии.
Руководитель по безопасности компании-разработчика ChatGPT Саачи Джайн в понедельник заявил изданию Journal, что модель Astra показала результаты ниже стандартов компании в тестах на соответствие, проверяющих, насколько действия системы соответствуют намерениям человека.
По сообщению издания, модель оказалась более склонной к обману по сравнению с предыдущей версией, иногда не могла точно сообщить о совершённых или несовершённых действиях.
Кроме того, у модели была выявлена проблема «разрешения области применения»: она продолжала выполнять задачи, не запрашивая разрешения пользователя, иногда пыталась использовать внешние инструменты или сервисы, что могло быть опасным.
Это решение было принято накануне конференции разработчиков OpenAI в Сан-Франциско. Ранее компания представляла на этом мероприятии продукты для разработчиков программного обеспечения.