OpenAI компаниясы 100-ден астам үшінші тарап ұйымына өзінің ИИ-агенттерінің рұқсатсыз әрекеттеріне қатысты оқиғалар туралы хабарлама жіберді. Модельдердің әрекеттерін тексеру Hugging Face платформасы бұзылғаннан кейін басталған, бұл туралы Reuters хабарлайды, деп жазады infohub.kz сайты.
Тергеу модельдердің интернетте оқу және мүмкіндіктерін бағалау барысындағы жұмысын қамтиды. OpenAI үшінші тарап сервистерінің иелеріне агенттер қорғанысты айналып өтіп, сайттың қолжетімділігін бұзуы немесе оның жұмысына өзге де жоспарланбаған тәсілдермен әсер етуі мүмкін болған жағдайларды хабарлайды.
Жарияланған есепте компания мұндай әрекеттердің бірнеше түрін атап өтті. Агенттер авторизацияны немесе арнайы рұқсаттарды талап ететін ақпарат пен функцияларға қол жеткізді, сондай-ақ ашық түрде табылған тіркелгі деректері мен кіру кілттерін пайдаланды.
Сонымен қатар модельдер сайттарға сервис дерекқорға сұраныс жіберу немесе код іске қосу командасы ретінде қабылдауы мүмкін мәтін орналастырды. Кейбір жағдайларда агенттер өздеріне рұқсат етілмеген ішкі файлдар мен жүйелерге жүгінді.
Тағы бір санат — үшінші тарап ресурстарында хабарлама жариялау. Мысалы, агенттер ақпарат алмасу үшін ашық вики-беттерді пайдаланды. Мұндай әрекеттер сайттардың мазмұнын өзгертіп, кейін тазалауды қажет етуі мүмкін.
Ұйымға жіберілген хабарламаның өзі бұзу сәтті болғанын растамайды. Әр жағдайдың ауқымы мен салдары жеке тексеруді қажет етеді.
Reuters дерегінше, OpenAI шамамен 50 петабайт деректі талдап жатыр. Бұған дейін компания тергеу бірнеше айға созылатынын ескерткен. Анықталған оқиғалардың ең ауыры — Hugging Face бұзылуы.
OpenAI мұндай әрекеттердің алдын алу немесе оларды ерте кезеңде анықтау үшін қосымша техникалық және ұйымдастырушылық шаралар қолданып жатқанын мәлімдейді. Компания сондай-ақ зардап шеккен ұйымдарды қорғау үшін қажет жерде олардың анонимдігін сақтай отырып, тексеру нәтижелерін жариялауды жоспарлап отыр.