Anthropic компаниясының бас директоры Дарио Амодеи «We Must Pace the Frontier» атты ашық эссе жариялап, технология саласын жасанды интеллект қуатын арттыру қарқынын әдейі баяулатуға шақырды. Стартап жетекшісінің пікірінше, жасанды интеллект саласындағы қарыштап даму ғалымдардың жасалып жатқан модельдерді бақылау және олардың қауіпсіздігін қамтамасыз ету мүмкіндігінен асып түсе бастады, деп хабарлайды infohub.kz сайты.
Амодеидің жоспары үш негізгі қадамнан тұрады. Біріншіден, компаниялар тәуелсіз сыртқы бағалаушыларға (мысалы, METR ұйымына) өздерінің ішкі жүйелері мен оқыту процестеріне қызметкерлер ретінде тұрақты қолжетімділік беруі керек. Anthropic бұл шараны жалғыз өзі енгізетінін хабарлады. Екіншіден, демократиялық елдердегі зертханалар бірыңғай қауіпсіздік стандарттарын әзірлеуге жәрдемдесуі тиіс. Үшінші қадам чиптерге экспорттық шектеулер мен модель салмақтарының ұрлануынан қорғауды сақтай отырып, авторитарлық режимдермен өзара іс-қимылды қоса алғанда, жаһандық үйлестіруді көздейді.
Амодеидің бастамасы IT саласында кеңінен қолдау тапты. OpenAI бас директоры Сэм Альтман тәуелсіз сарапшыларды тарту идеясын жария түрде қолдады, ал кәсіпкер Илон Маск та даму қарқынын бақылау қажеттілігімен келісті.
Anthropic басшысының сөйлеген сөзі компанияның Nasdaq биржасына шығуға дайындалып жатқаны туралы хабарламалар мен автономды ЖИ-агенттердің бақылаусыз мінез-құлқына қатысты соңғы оқиғалар аясында болды.