Microsoft корпорациясы бизнесті жасанды интеллект агенттерінің болжауға келмейтін әрекеттерінен қорғауға арналған жаңа қауіпсіздік шешімдерін ұсынды, деп хабарлайды infohub.kz сайты.
Project Perception платформасы аясында жасанды интеллект әрекеттерін бақылайтын Guardian Agents функциясы іске қосылды. Microsoft бас директоры Сатья Наделланың айтуынша, компаниялар енді жасанды интеллект модельдерін жасаушыларға соқыр сеніммен қарай алмайды. Автономды агенттер құпия деректерге қол жеткізіп, аса маңызды міндеттерді орындай алады, сол себепті олар адал емес қызметкерге ұқсас — ішкі қауіпке айналады.
Microsoft қауіпсіздік бағытының жетекшісі Хайет Галло «frontier models» (озық модельдер) деп аталатын жүйелерді болжауға келмейтін деп атады: олар корпоративтік нормаларды сақтауға емес, міндеттерді орындауға үйретілген. Бұл мәселені шешу үшін Microsoft интеллектті жеткізуді оны бақылаудан бөлуді ұсынады. Defender-дің жаңа функциялары 60-қа дейінгі түрдегі бөгде агенттерді анықтап, олардың жүйелерге қолжетімділігін шектеп, тәуекел туындаған кезде адамның растауын сұрай алады.
Сонымен қатар корпорация Nvidia-ның агенттерді оқшаулауға және олардың жұмысын аппараттық деңгейде шұғыл тоқтатуға мүмкіндік беретін Open Agent Safety Platform платформасына қосылды.