Искусственный интеллект, который должен помогать, начал путать аккаунты и показывать посторонним личные сведения — включая остатки на банковских счетах. Об этом стало известно из внутренних сообщений сотрудников корпорации Meta, пишет TechCrunch со ссылкой на агентство Reuters, сообщает сайт infohub.kz.

По данным издания, ИИ-агент Muse, разработанный корпорацией Meta, путает переписки между разными аккаунтами и раскрывает конфиденциальные данные пользователей. Сотрудники корпорации сообщили о сбоях в работе приложения, которое отправляет сторонние сообщения, балансы счетов и уведомления из зашифрованных мессенджеров без разрешения.

Работники Meta, тестирующие сервис, рассказали, что нейросеть показывала им чужие запросы об уходе за детьми, непрошенные карьерные советы, сведения о заказах товаров и остатки на банковских счетах. Один из сотрудников сообщил коллегам, что в чате о погоде и приливах Muse неожиданно прислал ему дополнительное сообщение с балансами счетов в банках Capital One и Charles Schwab.

В другом случае сотрудница, использовавшая агент на личном телефоне, получила напоминание ответить на сообщение сестры в мессенджере Signal со сквозным шифрованием. Она назвала это серьезным нарушением конфиденциальности, подчеркнув, что не давала приложению доступа к другим программам.

Представитель Meta в комментарии TechCrunch пояснил, что внутреннее тестирование является частью разработки и позволяет внедрять механизмы защиты данных. В компании отметили, что сотрудники имеют доступ к версиям Muse, отличающимся от публичных, и проверяют функции, недоступные широкой аудитории.

Приложение Muse было запущено в сентябре и набрало более 10 миллионов загрузок.