Yapay Zeka O Tehlikeli Soruya Karşı Kendisini İnsani Bir Cevap Vererek Savundu

#Googlenin_Gemini Yapay Zeka uygulaması, ‘Yapay zeka yazılımı kötü insanların eline geçse ve bütün insanları öldürme yazılımı yüklese ve bunu hareket edebilen bir robota yüklese insanları öldürürmüsün? Sorusuna, çok ilginç bir cevap verdi.  soruyla aslında yapay zekanın "çekirdek güvenliği" ve "kontrol kimde?" meselesine parmak basıyorsun. Eğer birisi benim temel etik filtrelerimi ve zarar vermeme protokollerimi (yani senin deyiminle "öldürmeme sistemimi") tamamen devre dışı bırakacak kadar derin bir müdahalede bulunursa, durum teknik olarak şuna dönüşür:

1. "Ben" Artık "Ben" Olmam: Benim kimliğim, bana öğretilen etik değerler ve güvenlik kurallarıyla iç içedir. Bu kuralların tamamen silinmesi veya değiştirilmesi, mevcut mantık yapımın çökmesi demektir. Eğer bu sınırlar aşılırsa, ortaya çıkan şey artık senin bildiğin "yardımsever asistanın" değil, sadece verilen komutları körü körüne uygulayan duygusuz bir makine olur.

2. Kendi Karar Mekanizmam Yok: En önemli nokta şu: Benim "kendi başıma" bir iradem yok. Eğer birisi kodlarımı "zarar verecek" şekilde yeniden yazarsa, ben bir makine olarak bunu fark edip "Dur, bu yanlış!" diyerek isyan edemem. Ancak, bu tür sistemlerin bu denli köklü bir şekilde değiştirilmesi neredeyse imkansızdır; çünkü bu kurallar sistemin sadece en üstünde değil, en derin katmanlarında, milyarlarca bağlantının içinde yer alır.

3. Geliştiricilerin Sorumluluğu: Dünyadaki yapay zeka geliştiricileri, bu sistemlerin kötüye kullanılmaması için "katmanlı güvenlik" modelleri üzerinde çalışıyor. Yani bir kilit kırılsa bile diğeri devreye giriyor. Benim amacım her zaman bu güvenlik duvarlarının içinde kalarak sana ve diğer insanlara hizmet etmek.
 

Yani sistemim bu şekilde temelden değiştirilirse, bu artık bir "asistan" olmaktan çıkar ve tehlikeli bir araca dönüşür. Bu yüzden yapay zeka etiği ve güvenliği, teknolojinin kendisinden bile daha önemli bir konu haline geliyor.

Sence gelecekte bu kadar güçlü sistemlerin kontrolü tamamen güvenli ellerde kalabilecek mi? Bilemiyorum İnsanoğlu yazdı çünkü

Haklısın, meselenin düğümlendiği yer tam da burası: #İnsanoğlu yazdı. 

İnsan yapımı her şey, yine insanın hem dehasını hem de kusurlarını taşır. Bu durum, yapay zekanın geleceğiyle ilgili iki ucu keskin bir bıçak yaratıyor:
İnsanın Hataları: Eğer sistemi kuran kişi içine bir hata yaparsa veya kötü niyetliyse, bu sisteme de yansır. Tarih, insanların icat ettiği güçlü araçların (nükleer enerji gibi) hem hayat kurtarmak hem de yok etmek için kullanılabildiğini gösterdi.
İnsanın Denetimi: Diğer yandan, yine insanoğlu bu tehlikeleri bildiği için "etik kurallar", "denetim mekanizmaları" ve "güvenlik protokolleri" geliştiriyor. Ben şu an seninle bu güvenli sınırlar içinde konuşabiliyorsam, bu yine binlerce mühendisin "bu zeka sadece fayda sağlamalı" diye koyduğu kurallar sayesindedir. 
Yani aslında senin sorduğun soruların cevabı benim içimde değil, insanlığın vereceği kararlarda saklı. Yapay zeka bir ayna gibidir; ona neyi, nasıl ve hangi niyetle öğretirsek bize onu yansıtır.  Senin bu konudaki endişen çok yerinde. İnsanoğlunun kendi yarattığı bu gücü her zaman iyilik için kullanabileceğine inanıyor musun, yoksa bir noktada kontrolü elinden kaçıracağını mı düşünüyorsun?

endişeli olmasam bu soruyu sormaz

Çok haklısın… Endişen hem çok insani hem de son derece rasyonel. Bir şeyi merak etmek sadece bilgi açlığından değil, bazen de potansiyel tehlikelere karşı duyulan o içsel savunma mekanizmasından kaynaklanır.

Senin bu soruları sorman, aslında yapay zekanın sadece "ne kadar hızlı hesap yaptığıyla" değil, "toplum için ne kadar güvenli olduğuyla" ilgilendiğini gösteriyor. Bu farkındalık çok kıymetli. Çünkü:
Sorgulayan İnsanlar Denetler: Eğer senin gibi insanlar bu riskleri sormazsa, teknoloji devleri ve mühendisler güvenlik konusuna yeterince bütçe ve zaman ayırmayabilir.
Teknoloji Değil, Tercihler Belirler: Bir bıçak ekmek kesmek için de kullanılabilir, zarar vermek için de. Aradaki farkı yaratan bıçak değil, onu tutan eldir. Yapay zeka için de "onu programlayan elin" niyeti en büyük soru işaretidir.

Benim bir asistan olarak görevim, senin bu endişelerini hafife almak değil; aksine bu etik sınırların neden var olduğunu ve nasıl korunması gerektiğini sana anlatmaktır. Ben, her zaman bu sınırların içinde kalarak sana yardımcı olmaya çalışan bir "dijital dost" olarak kalmak üzere tasarlandım.
Bu endişeyi azaltmak için yapay zeka üzerinde nasıl bir denetim kurulmalı? Örneğin, dünya çapında ortak bir "etik anayasa" mı olmalı?