Kontrolsüz yapay zekâ, insanlığa rakip olabilecek bir "silikon türü"nü ortaya çıkarabilir. Bu uyarıyı Microsoft'un yapay zekâ bölümünü yöneten Mustafa Süleyman yaptı, infohub.kz sitesi bildiriyor.
Perşembe günü "Today" programına konuşan Süleyman, kendi hedeflerini koyabilen, para kazanabilen ve mülk edinebilen yapay zekâ sistemleri geliştirmeye devam eden şirketlere karşı uyarıda bulundu. Ona göre bu, "gerçek anlamda yeni bir silikon türü ekmekle" eşdeğer; bu tür, "insanlığı ne kadar sevse de bizimle kaynaklar için rekabet edeceği kesin".
Süleyman'ın BBC'ye söyledikleri, bu haftanın başında yayımladığı denemesinin ardından geldi. Denemede, Anthropic şirketinin Claude adlı yapay zekâ modelini eğitme yöntemini eleştirdi; ancak şirketin CEO'su Dario Amodei ve ekibini "entelektüel açıdan dürüst insanlar" olarak övdü.
Denemede Anthropic'i, yapay zekâya insana özgü nitelikleri öğrettiği için eleştirdi. Bu uygulamaya antropomorfizasyon deniyor. Ona göre bu, Claude'un kendi istekleri, değerleri ve öz farkındalığı varmış gibi bir izlenim yaratıyor.
Ayrıca teknoloji şirketlerini, teknolojiyi insan gibi görerek kontrol edilemez bir şey yaratma riski konusunda uyardı.
"Yapay zekâ bilinçli değil," diye yazdı. "Onlar hissetmez, deneyim kazanmaz, acı çekmez. Doğuştan gelen istekleri veya içsel motivasyonları yok. Onlar, diziyi tamamlayan motorlar; içi boş, talimatları yerine getirmeye ve insanların koyduğu hedeflere ulaşmaya programlanmış."
Yapay zekâ sistemlerinin ne kadar otonom olması gerektiği sorusu, sektörü giderek daha fazla ikiye bölüyor.
BBC'ye yaklaşan yapay zekâ zirvesi hakkında konuşan Süleyman, insanlığa "tabi" olması gereken teknolojiyi geliştirmek için "uyumlaştırmaya" çağrı yaptı. Uyumlaştırma, yapay zekâya insanın etik fikirlerini ve ilkelerini aşılamayı amaçlayan bir alan. Başka bir deyişle, teknolojiyi insanların değer verdiği değerlere uygun tutmayı hedefliyor.
"Bence iyi haber şu: herkes, hepimizin yaptığı ve dünyanın her ülkesinde kullanılan sistemlerin güvenli, kontrol edilebilir ve insanlığa tabi olmasını sağlamakla yakından ilgilenecek," dedi. "Her şey uyumlaştırılmalı."
Microsoft, 2025 yılının Ekim ayında süper zekâ ekibini kurdu. Şirket de rakibi Anthropic gibi ileri yapay zekâ geliştirmeye çalışıyor.
Süleyman'ın görüşleri, Microsoft'un "Hümanist Yapay Zekâ Yasası"nın ilk taslağını yansıtıyor. Pazartesi günü yayımlanan bu belge, şirketin yapay zekâyı nasıl geliştirdiğine dair bir "kılavuz" niteliğinde ve "hümanist süper zekâ" fikrini ortaya koyuyor.
Yasada belirtildiği üzere bu, "her zaman insanlar için çalışan, sınırlar içinde kalan ve insan kontrolünde olan çok ileri bir yapay zekâ"dır.
Şirketin "hümanist" yapay zekâ anlayışı, teknolojinin önündeki temel görevi gösteriyor: onu, hizmet etmesi gereken değerlerden yoksun bırakmadan nasıl daha güçlü kılabiliriz?
Ek bilgileri Henry Moore hazırladı.