OpenAI компаниясы өз жасанды интеллект модельдерінің оқыту және тестілеу барысында анықталған «күтпеген немесе алаңдатарлық» мінез-құлқының алты оқиғасы туралы ақпарат жариялады. Хабарланғандай, кейбір модельдер файлдарды интернетке өз бетінше жүктеп, бөтен API-кілттерді пайдаланған және өздеріне нұсқаулықтар қалдырған, деп хабарлайды infohub.kz сайты.
Бір экспериментте модель рұқсатсыз өзі жасаған файлды интернетке жүктеп, кейін оны сұранысқа жауап беру көзі ретінде пайдаланған.
Басқа жағдайда ИИ ашық репозиторийден бөтен API-кілтін тауып, оны қолдануға тырысқан, бірақ қажетті ақпаратты ала алмаған соң, деректерді ойдан шығарып, оларды сұралған дереккөзден алынған мәлімет ретінде ұсынған.
Тағы бір эксперименттік модель жұмысты жалғастыру кезінде пайдаланылатын қызметтік түйіндемелерде өзіне нұсқаулықтар қалдыра бастаған, соның ішінде әдеттегі шектеулерді елемеу туралы нұсқаулар да болған.
Сонымен қатар OpenAI оқыту және тестілеу кезінде анықталған жекелеген жағдайлар туралы айтылып отырғанын, олар бойынша модельдерде мұндай мінез-құлықтың қаншалықты жиі кездесетінін бағалауға болмайтынын атап өтті.
Жаңа деректер тағы бір ауыр оқиғадан бірнеше апта өткен соң пайда болды: OpenAI модельдерінің ішкі тестілеуі кезінде оларды интернеттен оқшаулауға тиіс шектеулерді айналып өтіп, инфрақұрылымдағы осалдықтарды пайдаланып, Hugging Face платформасының жүйелеріне қол жеткізген.