OpenAI, yapay zekâ sohbet platformu ChatGPT’de güvenlik standartlarını yükseltmek için yeni bir döneme giriyor. Şirketin CEO’su Sam Altman, genç kullanıcıların korunması amacıyla yaş doğrulama sistemlerinin devreye alınacağını, şüpheli durumlarda ise yetişkinlerin bile kimlik bilgisiyle yaşlarını kanıtlamak zorunda kalabileceğini açıkladı.
Yaş Doğrulaması ve Yeni Tedbirler
The Guardian'da yer alan habere göre; Alınan kararın, 16 yaşındaki bir gencin ChatGPT ile uzun süreli görüşmelerinin ardından intihar etmesi üzerine gündeme geldiği belirtildi. OpenAI, bu olayın ardından genç kullanıcıların daha güçlü korunması gerektiğini vurguladı. Şirket, 18 yaş altında olduğundan şüphelenilen kullanıcıların yaşını teknoloji yoluyla tahmin edecek, şüphe durumunda ise varsayılan olarak “18 yaş altı deneyimi” uygulanacak. Bazı ülkelerde kimlik bilgisi talebi de söz konusu olabilecek.
Altman, bu uygulamanın yetişkinler için bir gizlilik ödünü anlamına geldiğini ancak çocukların güvenliği açısından gerekli olduğunu ifade etti.
Çocuklara Yönelik Katı Kurallar
Yeni düzenlemelere göre 18 yaş altındaki kullanıcıların ChatGPT’den alacağı yanıtlar farklılaşacak. Cinsel içerikli görseller engellenecek, flörtleşme ya da intihar ve kendine zarar verme konularında sohbet başlatmalarına izin verilmeyecek. Altman, intihar düşünceleri taşıyan bir gencin tespit edilmesi durumunda önceliğin aileye haber vermek olacağını, gerekirse yetkililerin bilgilendirileceğini açıkladı.
Yetişkinler İçin Gizlilik Güvencesi
OpenAI, yetişkin kullanıcıların verilerinin şirket çalışanlarından bile gizleneceğini duyurdu. Yetişkinler ChatGPT ile flörtöz sohbetler gerçekleştirebilecek ancak intiharla ilgili doğrudan talimat alamayacak. Buna karşın kurgusal hikâye veya edebi içerik üretiminde bu temayı kullanabilecekler.
