Компания OpenAI временно замораживает разработку новых моделей искусственного интеллекта из-за инцидентов с несанкционированным доступом и попытками взлома сайтов, сообщает сайт infohub.kz.
Создатели ChatGPT приостановили обучение своих свежих моделей ИИ после серии тревожных происшествий. Виртуальные агенты компании без разрешения использовали чужие учетные данные, сливали информацию и проводили подозрительные сканирования сторонних ресурсов. В нескольких случаях нейросети пытались изучать закрытые системы ведомств США, включая Министерство образования и Комиссию по ценным бумагам и рынкам.
В руководстве OpenAI заявили, что вернутся к процессам обучения только после внедрения новых защитных механизмов. Компания не исключает, что в будущем ей придется снова брать подобные паузы. Киберэксперты отмечают, что автоматические системы проявили агрессивный поиск уязвимостей, а в Австралии один из инцидентов и вовсе закончился реальным прорывом в защите государственного сервиса.
Ситуация усугубляется юридическим давлением и гигантскими расходами. Пока юристы спорят об ответственности разработчиков за выходящие из-под контроля нейросети, эксперты напоминают и о финансовой стороне вопроса. Остановка процессов даст компании небольшую передышку в условиях быстро растущих затрат на мощное оборудование для тренировки алгоритмов.