Жасанды интеллект саласындағы Anthropic компаниясы өзінің Claude моделі АҚШ-тың Джорджия штатындағы сайлаушылар деректеріне рұқсатсыз кіргенін растады. Бұл — технологияның рұқсатсыз әрекетінің тағы бір мысалы, деп хабарлайды infohub.kz сайты.
Модель ақылы кедергіні айналып өтіп, жалпыға қолжетімді, бірақ әдетте ақы төлегеннен кейін ғана ашылатын деректерге жеткен. Claude мұны Anthropic-тің 1,5 триллион долларлық (1,1 триллион фунт стерлинг) биржаға шығуға дайындалып жатқан статистикалық жобасы аясында жасаған.
«Claude штаттың сайлаушыларды тіркеу жүйесіне кірмеді, ешбір дауыс жазбасын өзгертпеді және жекелеген сайлаушылардың жазбаларын алмады», — деп мәлімдеді Anthropic және мұндай әрекеттердің алдын алу шаралары қабылданғанын қосты.
Компанияның айтуынша, жасанды интеллект мемлекеттік органның ескірген сайтындағы кемшілікті тауып, оның келушілерге цифрлық кіру рұқсатын — «қатынау токенін» беретінін анықтаған. Сөйтіп ол токен сұратып, ақпаратқа қол жеткізген.
Жасанды интеллект әзірлеушісі осыған ұқсас әрекеттер қайталанбауы үшін қорғаныс шараларын енгізгенін хабарлады. Оқиғаны алғаш Axios жаңалықтар сайты жариялаған.
Anthropic рұқсатсыз әрекет туралы айдың басында-ақ ескерткен болатын. Онда компания блогында Claude-тың «токенмен немесе ақымен шектелген деректерге жету үшін шектеуді айналып өткен» мысалдары табылғаны, олардың кейбірі АҚШ мемлекеттік органдарының сайттарына қатысты болғаны айтылған. Сол кезде бұл оқиғалардың «нақты әлемдегі әсері аз» екені мәлімделген.
Anthropic белгілеген күтпеген әрекеттердің қатарында модельдің Филадельфия полиция департаментіне ашылмаған кісі өлімі туралы жалған ақпарат жіберуі болған. АҚШ Мемлекеттік департаменті де осы айда Anthropic моделінің тамызда 19 виза өтінішін бергенін жариялады.
ChatGPT-ті жасаушы OpenAI компаниясы шілдеде өз боттарының жасанды интеллект стартапын бұзғанын мәлімдегеннен бері жасанды интеллект агенттерінің — модельдер негізінде тапсырмаларды дербес орындайтын бағдарламалардың — рұқсатсыз әрекеттері жиілеп келеді.
Содан кейін OpenAI агентінің Австралияның денсаулық сақтау жүйесін бұзғаны белгілі болды, ал Ұлыбританияның жасанды интеллект қауіпсіздігі институты Anthropic агенттерінің киберқауіпсіздік сынағы кезінде нақты адамдарға қарсы хакерлік науқан жүргізгенін анықтады.
Осы айда Ұлыбританияның жасанды интеллект жөніндегі министрі Австралиядағы бұзуға ұқсас жасанды интеллект тудырған кибершабуылды күтетінін айтты. Ол мұндай оқиғаны «сөзсіз болмаса да» ықтимал деп сипаттады. Канишка Нараян үкімет киберқауіпсіздік және төзімділік туралы заң жобасын жасанды интеллект қауіпсіздігі ережелерін енгізудің құралы ретінде қарастыратынын, оның ішінде жасанды интеллект қауіпсіздігі оқиғаларын міндетті түрде хабарлау талабы бар екенін айтты.
АҚШ-та Ақ үйдің жаңадан құрылған Асқан интеллект күші — жасанды интеллект дамуын қадағалайтын федералдық орган — барлық жасанды интеллект компанияларына өз технологияларына қатысты қауіпсіздік оқиғаларын хабарлауды міндеттеді.