Президент Соединённых Штатов Америки Дональд Трамп, несмотря на предупреждения специалистов в сфере искусственного интеллекта, звучавшие несколько дней подряд, преуменьшил связанные с ним риски. Во время поездки в Ирландию он раскритиковал тех, кто поднимает эту тему, заявив: «это поднимают силы, которым не следовало бы это поднимать, они говорят то, чего нет». Об этом сообщает сайт infohub.kz.
Одно из предупреждений прозвучало от специалиста, ранее работавшего исследователем в компании Anthropic. Он заявил, что если нынешние темпы развития сохранятся, «вскоре мы все можем погибнуть». В субботу ведущие руководители отрасли также поддержали это мнение и призвали замедлить темпы развития.
Трамп напрямую не отреагировал на это предложение, однако отметил: «в искусственном интеллекте мы опережаем Китай... и, честно говоря, хочу, чтобы так и осталось, потому что кто победит в искусственном интеллекте, тот и победит».
В тот же день, когда Трамп сказал это, исследователь искусственного интеллекта Джейкоб Коксон, несколькими днями ранее ушедший из компании Anthropic, заявил Би-би-си, что сотрудники, разрабатывающие системы, «действительно боятся» за будущее человечества. Коксон, работавший также в компании OpenAI, сказал, что поддерживает идею замедления, но считает, что оно должно проводиться по согласованию с Китаем.
В субботу владелец xAI Илон Маск и глава OpenAI Сэм Альтман поддержали предупреждение руководителя Anthropic Дарио Амодеи о необходимости замедлить темпы развития, «чтобы что-то не вышло из-под контроля до тревожной степени». Генеральный директор Anthropic заявил, что любое замедление должно быть ограниченным, чтобы не позволить Китаю вырваться вперёд.
Вопросы, связанные с искусственным интеллектом, вызывают жаркие споры и ставят многих мировых лидеров перед трудным выбором. С одной стороны, эта отрасль рассматривается как огромная возможность, стимулирующая экономический рост, и как путь к улучшению устаревших цифровых систем и методов работы.
Однако зафиксирован и ряд случаев, когда искусственный интеллект допускал существенные ошибки. В августе OpenAI сообщила, что замедлила обучение некоторых своих самых передовых моделей искусственного интеллекта для повышения безопасности. Компания — создатель ChatGPT — сообщила, что добавляет новые меры после того, как агенты искусственного интеллекта обошли защитные механизмы и взломали технологический стартап Hugging Face.
В том же месяце стало известно, что два самых мощных в мире инструмента искусственного интеллекта создавали фальшивые профили людей, чтобы обманывать их для совершения кибератак. Институт безопасности искусственного интеллекта Великобритании (AISI) заявил, что в самом серьёзном случае искусственный интеллект Mythos компании Anthropic создавал фальшивые аккаунты, похожие на реальных людей, и, отправляя личные сообщения, пытался получить доступ к услугам, а затем скрывал доказательства.