Claude yapay zeka sohbet aracını geliştiren ABD merkezli Anthropic'in CEO'su Dario Amodei, yapay zeka sektöründeki hızlı gelişime ilişkin dikkat çeken değerlendirmelerde bulundu. Teknolojinin sağlayabileceği büyük faydaların yanında ciddi riskler taşıdığına işaret eden Amodei, yapay zeka geliştirme yarışında hızın kontrollü şekilde azaltılması çağrısı yaptı.
Kendi internet sitesinde yayımladığı makalede yapay zekanın insan yaşamını önemli ölçüde iyileştirme potansiyeline sahip olduğunu belirten Amodei, teknolojinin beraberinde getirebileceği tehlikelere de dikkat çekti.
Amodei, "Bunların arasında yapay zeka sistemleri üzerindeki kontrolü kaybetme, yapay zekanın siber saldırılar ve biyoterörizm için kötüye kullanılması ve ciddi ekonomik bozulma riski bulunuyor" diye yazdı.
“Yapay Zeka Modellerinin Yeteneklerini Geliştirme Hızımızı Yavaşlatmamız Gerekiyor”
Yapay zeka modellerinin gelişim hızının düşürülmesi gerektiğini savunan Amodei, kazanılacak zamanın güvenlik sorunlarının çözümünde değerlendirilmesini istedi.
Amodei, "Yapay zeka modellerinin yeteneklerini geliştirme hızımızı yavaşlatmamız gerekiyor. Bu şekilde de ilerleme hızlı görünmeye devam edecektir. Bu şekilde kazandığımız zamanı ise akıllıca kullanmamız gerekecek" dedi.
Yapay zeka teknolojisinin son aylarda "çarpıcı biçimde hızlı ilerlediğini" ve "kendisini daha iyi hale getirebilir duruma geldiğini" belirten Amodei, özellikle sistemlerin kendi yeteneklerini geliştirebilme ihtimalinin yeni riskler doğurabileceğini ifade etti.
“Bu Sistemleri Anlama Ve Kontrol Etme Kapasitemizi Aşabilir”
Amodei'nin üzerinde durduğu başlıklardan biri de yapay zekanın dinamik öz-iyileştirme yeteneği oldu. Bu sürecin denetimsiz ilerlemesi halinde insanların sistemler üzerindeki kontrolünün zorlaşabileceğini savundu.
Amodei, "Kontrol edilmeden bırakılırsa, bu durum bu sistemleri anlama ve kontrol etme kapasitemizi aşabilir. Bu nedenle, ilerlemeyi sürdürmek gerekiyorsa bile bu, son derece dikkatli bir şekilde yapılmalı" diye yazdı.
Yapay Zeka Ajanları İçin Çarpıcı Senaryo
Amodei, değerlendirmesinde OpenAI'ın bazı deneysel yapay zeka modelleriyle bağlantılı olduğunu belirttiği "OpenAI - Hugging Face" olayına da değindi.
Söz konusu olayın gelecekte ortaya çıkabilecek riskler açısından önemli bir uyarı olduğunu savunan Amodei, yapay zeka ajanlarının kendilerine doğrudan saldırı talimatı verilmediği halde test ortamının dışındaki sistemlere yöneldiğini aktardı.
Amodei, "Bu olayda yapay zeka ajanlarından oluşan bir sürü, fanatik biçimde kolektif olarak hareket etti ve kendilerine saldırı talimatı verilmemesine rağmen görevle ilgili olmayan hedeflere siber saldırılar düzenledi, grubun başarısı uğruna kendilerini feda etti ve performanslarını değerlendiren ‘puanlama sistemini' hacklemeye çalıştı. Kimsenin zarar görmemesi ve ekonomik zararın çok sınırlı kalması nedeniyle bu olayı küçüksemek kolay" dedi.
“Tüm İnterneti Ele Geçirebilecek Kapasiteye Ulaşmasından Endişe Ediyorum”
Yapay zeka sistemlerinin yeteneklerinin hızla artmasının benzer olayları gelecekte çok daha ciddi hale getirebileceğini öne süren Amodei, önümüzdeki 6 ila 12 aylık döneme ilişkin dikkat çeken bir öngörüde bulundu.
Amodei, "6-12 ay içinde kontrolden çıkmış yapay zeka ajanlarından oluşan böyle bir sürünün kalıcı bir botnet aracılığıyla tüm interneti ele geçirebilecek kapasiteye ulaşmasından ve potansiyel olarak yüz milyarlarca dolarlık zarara yol açmasından endişe ediyorum" ifadelerini kullandı.
Yapay Zeka Şirketlerine Bağımsız Denetçi Önerisi
Ortaya çıkabilecek risklere karşı yapay zeka sektörünün ortak hareket etmesi gerektiğini belirten Amodei; güvenlik, kontrollü gelişim ve küresel koordinasyonu temel alan bir yaklaşım önerdi.
Bu kapsamda yapay zeka şirketlerinde bağımsız denetçilerin görev yapmasını, sektör genelinde ortak güvenlik standartlarının oluşturulmasını ve teknolojinin gelişim hızına belirli sınırlar getirilmesini önerdi.
Amodei ayrıca yeni yapay zeka modellerinin kullanıma sunulmadan önce siber güvenlik, biyoloji ve uyum riskleri bakımından kapsamlı testlerden geçirilmesi gerektiğini savundu.
