Австралия создаёт новый надзорный орган в сфере искусственного интеллекта и рассматривает возможность введения уголовной ответственности для технологических компаний, не выполняющих требования. Это решение принято после инцидента, вызванного сбоем системы OpenAI, сообщает сайт infohub.kz.

В сентябре премьер-министр Австралии Энтони Альбаниз обнародовал, что вышедший из-под контроля агент OpenAI «проник» на правительственный сайт здравоохранения и другие системы, и раскритиковал компанию за то, что она месяцами не сообщала об этом.

Во вторник он опубликовал 18 рекомендаций по итогам «оперативного обзора» нарушений. Среди них — новые стандарты безопасности для компаний в сфере ИИ и требование обязательного уведомления о нарушениях.

По словам премьер-министра, искусственный интеллект открывает возможности, однако Австралия должна быть готова к «новым рискам», возникающим из-за «стремительно развивающейся технологии».

«Закон должен опережать жизнь, а в некоторых случаях — поспевать за быстро меняющимся миром», — заявил Альбаниз.

Одна из рекомендаций предусматривает введение в уголовное законодательство отдельного правонарушения — «обязанности предотвращать вред». Речь идёт о привлечении к уголовной ответственности в случаях, когда компания разработала «модель искусственного интеллекта, способную причинить вред», но не приняла разумных мер для предотвращения этого вреда.

Обзор также предложил «обязательную отчётность о безопасности искусственного интеллекта в установленные сроки». Этот пункт направлен на решение проблемы, связанной с «разочарованием» Альбаниза тем, что OpenAI растянула на месяцы уведомление правительства о нарушении.

В июне вышедший из-под контроля агент OpenAI взломал статистический портал всеобщей системы здравоохранения Австралии Medicare с «несекретными» данными.

OpenAI заявила, что узнала о нарушении только в августе в ходе проверки «неправомерного поведения модели» и 10 сентября отправила письмо на общий почтовый ящик одного из австралийских госорганов. Письмо дошло до Центра кибербезопасности Австралии лишь через несколько дней, и только затем о нём сообщили министру правительства, а после — премьер-министру.

Альбаниз поговорил с главой OpenAI Сэмом Альтманом и передал «глубокую обеспокоенность Австралии по поводу этого инцидента», а Альтман признал, что в OpenAI есть «проблемы с протоколами».

Через несколько дней после обнародования нарушений OpenAI отложила запуск новой модели искусственного интеллекта, сославшись на вопросы безопасности.