Yapay zeka teknolojilerindeki baş döndürücü hız, insanlığın bu sistemler üzerindeki mutlak kontrolünü her geçen gün daha fazla tartışmaya açıyor. Sektörün en güçlü aktörlerinden biri olan Anthropic, şirketin kurucu ortağı Jack Clark ve Anthropic Enstitüsü lideri Marina Favaro imzasıyla "Yapay zeka kendini inşa ettiğinde" başlıklı ezber bozan bir blog yazısı yayımladı. Yazıda, geçmişte tamamen insanlar tarafından yürütülen geliştirme süreçlerinin, artık giderek artan bir oranda bizzat yapay zeka sistemlerine devredilmeye başlandığı ve bu durumun teknolojik ilerleme hızını katladığı aktarıldı.
"Özyinelemeli Kendini Geliştirme" Dönemi Yaklaşıyor
Mevcut eğilimin bu şekilde devam etmesi halinde, yakın gelecekte yapay zeka sistemlerinin insan müdahalesine ihtiyaç duymadan kendi haleflerini (bir sonraki gelişmiş versiyonlarını) sıfırdan tasarlayıp geliştirebilecek seviyeye ulaşacağına işaret edildi. Literatürde "özyinelemeli kendini geliştirme" (recursive self-improvement) olarak adlandırılan bu döngü hakkında makalede şu kritik değerlendirmeye yer verildi: "Henüz tam olarak o kırılma noktasında değiliz ve özyinelemeli kendini geliştirme süreci kesin olarak kaçınılmaz bir son değil. Ancak bu durum, dünyadaki çoğu kurum ve kuruluşun tahmin ettiğinden ya da hazırlandığından çok daha erken bir tarihte gerçekleşebilir."
Muazzam Faydaların Yanındaki Büyük Tehlike: Kontrolün Kaybolması
Teknik eğilimlerin ve algoritmik ilerlemelerin, yapay zekayı önümüzdeki yıllarda çok daha yüksek kabiliyetlere ulaştıracağını belirten Anthropic uzmanları, madalyonun iki yüzünü de ortaya koydu. Kendi kendini inşa edebilen bir yapay zekanın tıp, biyoteknoloji, temel bilimler ve iklim krizi gibi alanlarda insanlığa muazzam faydalar sağlayabileceği kabul edilirken; madalyonun diğer yüzünde ise "insanlığın yapay zeka üzerindeki kontrolünü tamamen kaybetme" riskinin üretildiği uyarısı yapıldı. Makalede, "Eğer sistemler kendi haleflerini tamamen kendi başlarına inşa edebilecek kapasiteye erişirse, bu sistemleri güvence altına alma, siber güvenliklerini sağlama, izleme ve etik davranışlarını şekillendirme yöntemlerimiz hayati bir önem kazanacaktır" denildi.
Küresel Dünyaya Ortak Çağrı: Geliştirmeyi Durdurma Seçeneği Masada Olmalı
Teknolojinin hızına toplumsal, hukuki ve siyasi yapıların ayak uydurabilmesi için radikal bir öneri de sunulan yazıda, ileri düzey yapay zeka geliştirme süreçlerinin küresel olarak yavaşlatılması veya geçici olarak tamamen durdurulması (moratoryum) seçeneğinin ciddi şekilde değerlendirilmesi gerektiği ifade edildi. Bu durdurma eyleminin tek bir şirketin hamlesiyle işe yaramayacağı vurgulanarak; dünyadaki birden fazla güçlü yapay zeka laboratuvarının ve lider ülkelerin, aynı sıkı koşullar ve denetim mekanizmaları altında ortak bir mutabakatla bunu gerçekleştirmesinin anlamlı olacağının altı çizildi.
