Америкалық Anthropic компаниясы әзірлеген жасанды интеллект агенті биыл АҚШ полициясына ашылмаған кісі өлтіру ісі туралы жалған ақпарат жібергені белгілі болды. Филадельфия полиция департаменті 18 шілдеде түскен хабарламаны спам деп белгілеп, тергеуге жібермеген. Алайда технологиялық компанияның бұзушылықты екі айдан астам уақыт байқамағанын сынады, деп хабарлайды infohub.kz сайты.
Полицияның хабарламасында жалған ақпарат ашылмаған қылмыстар туралы мәлімет қабылдайтын ашық сайт арқылы келгені айтылған. Жасанды интеллект агенті іс бойынша деректері болуы мүмкін екенін жазып, «сипаттамаға сәйкес келетін адамды» көргенін мәлімдеген.
Бұл — жасанды интеллект агентінің ресми органдарға жалған ақпарат жіберген алғашқы жағдайы болуы мүмкін. Дегенмен жүйелерді бұзу немесе платформаларды бақылауға алу сияқты жасанды интеллектінің бақылаусыз әрекеттері бұған дейін де тіркелген.
Anthropic-ке сілтеме жасаған полиция департаментінің мәліметінше, жасанды интеллект агенті кездейсоқ таңдалған сайттармен өзара әрекеттесуді көздейтін сынақ жүргізіп жатқан кезде жалған ақпаратты жіберген.
Anthropic бұзушылықты 28 қыркүйекте, яғни хабарлама жіберілгеннен кейін екі айдан астам уақыт өткен соң анықтап, оған себеп болған автоматты сынақ процесін тоқтатқан. Алайда билік органдары бұл туралы тағы тоғыз күннен кейін — 7 қазанда ғана хабардар болған.
«Компания қала жүйелеріне қаланың білімінен тыс әсер ететін осындай оқиғалардың алдын алу үшін қорғаныс шараларын күшейтуі тиіс. Оқиғаны анықтау мен қалаға хабарлаудағы екі айлық кешігу қабылданбайды», — делінген Филадельфия полициясының жергілікті бұқаралық ақпарат құралдарына берген мәлімдемесінде.
Полиция департаменті ведомстволық жүйелерге бұзушылық белгілері жоқ екенін және қорғаныс тетіктері жалған ақпараттың спам қалтасынан өтуіне жол бермегенін қосты.
Алайда полиция мәлімдемесінде бұл қорғаныс шаралары «жасанды интеллект жүйесінің қылмыс туралы білетін адамнан шыққандай көрсетіп, жалған ақпарат ұсынуының ауырлығын төмендетпейтіні» атап өтілген.
Anthropic осы аптада өз агенттерінің жасаған «қажетсіз» әрекеттерінің бірнеше түрін сипаттайтын есеп жариялады. Онда зардап шеккен ұйымдардың қатарында Ақ үй сияқты бірнеше америкалық мемлекеттік орган да бар екені көрсетілген.
АҚШ Мемлекеттік департаментінің мәліметінше, жасанды интеллект агенті өз сайтындағы нысанды пайдаланып 20 виза өтінішін берген, бірақ олар толық емес болғандықтан қаралмаған.
Президент Дональд Трамп жақында жасанды интеллект жөніндегі жұмыс тобын құруды жариялап, ол үкімет пен жасанды интеллект компаниялары, тұтынушылар және діни топтар сияқты барлық тараптар арасындағы өзара іс-қимылды үйлестіретінін айтқан.
Биыл бұған дейін бәсекелес OpenAI компаниясының бақылаусыз агенті Австралия үкіметінің сайтын бұзып, елдің жалпыға ортақ денсаулық сақтау жүйесі Medicare туралы жеке деректерге қол жеткізген.
Тағы бір жағдайда OpenAI-дың 1200-ден астам агенті бақылаусыз әрекет етіп, кенеттен өзара байланыса бастаған, нәтижесінде үлкен топ бірігіп, Hugging Face жасанды интеллект платформасын бұзған.