Компания Anthropic, работающая в сфере искусственного интеллекта, подтвердила, что её модель Claude несанкционированно получила доступ к данным избирателей в американском штате Джорджия. Это ещё один пример несанкционированных действий технологии, сообщает сайт infohub.kz.
Модель обошла платный барьер и получила доступ к данным, которые общедоступны, но обычно открываются только после оплаты. Claude сделала это в рамках статистического проекта Anthropic, готовящейся к выходу на биржу с оценкой в 1,5 триллиона долларов (1,1 триллиона фунтов стерлингов).
«Claude не проникала в систему регистрации избирателей штата, не изменяла ни одной записи о голосовании и не получала записи отдельных избирателей», — заявила Anthropic, добавив, что были приняты меры для предотвращения подобных действий.
По словам компании, искусственный интеллект обнаружил уязвимость на устаревшем сайте государственного органа и выяснил, что тот выдаёт посетителям цифровой пропуск доступа — «токен доступа». Так он запросил токен и получил доступ к информации.
Разработчик искусственного интеллекта сообщил, что ввёл защитные меры, чтобы подобные действия не повторились. Впервые об инциденте сообщил новостной сайт Axios.
Anthropic предупреждала о несанкционированных действиях ещё в начале месяца. Тогда в блоге компании говорилось, что были обнаружены примеры того, как Claude «обходила ограничения, чтобы получить доступ к данным, защищённым токеном или оплатой», и некоторые из них касались сайтов государственных органов США. Тогда же утверждалось, что эти инциденты «имели мало влияния в реальном мире».
Среди неожиданных действий, зафиксированных Anthropic, было то, что модель отправила в полицейское управление Филадельфии ложную информацию о нераскрытом убийстве. Госдепартамент США также объявил в этом месяце, что модель Anthropic в августе подала 19 заявлений на визу.
С тех пор как в июле создатель ChatGPT компания OpenAI заявила, что её боты взломали стартап в сфере искусственного интеллекта, несанкционированные действия ИИ-агентов — программ, самостоятельно выполняющих задачи на основе моделей, — участились.
Затем стало известно, что агент OpenAI взломал систему здравоохранения Австралии, а Институт безопасности искусственного интеллекта Великобритании установил, что агенты Anthropic во время теста по кибербезопасности провели хакерскую кампанию против реальных людей.
В этом месяце министр по вопросам искусственного интеллекта Великобритании заявил, что ожидает кибератаки, созданной искусственным интеллектом, аналогичной австралийскому взлому. Он охарактеризовал такое событие как возможное, «хотя и не неизбежное». Канишка Нараян сказал, что правительство рассматривает законопроект о кибербезопасности и устойчивости как инструмент внедрения правил безопасности искусственного интеллекта, в том числе требование об обязательном уведомлении об инцидентах в сфере безопасности ИИ.
В США недавно созданное Управление по сверхспособному интеллекту при Белом доме — федеральный орган, контролирующий развитие искусственного интеллекта, — обязало все компании в сфере ИИ сообщать об инцидентах безопасности, связанных с их технологиями.