Yıllar süren çalışmaların akabinde bugün yapay zeka trafikte araç kullanabilir, konut işlerini üstlenebilir ve fotoğraf yaparak sanat yarışı kazanabilir hale geldi.
Bu durum, yıllar boyunca bilimkurgu yapıtlarına ilham veren soruyu daha da güçlendirdi: Yapay zeka insanlığı yok edebilir mi?
Araştırma takımı, hakemli bilimsel mecmua AI Magazine’de yayımladıkları yeni makalede bunun “muhtemel” olduğu sonucuna vardı.
“VAROLUŞSAL BİR FELAKET”
Independent Türkçe’nin aktardığı habere göre; makalenin başyazarı Michael Cohen, Twitter’da makaleyi açıkladığı tweet zincirinde, “Varoluşsal bir felaket yalnızca mümkün değil, tıpkı vakitte muhtemel” sözlerini kullandı.
Makalede yapay zekanın eğitiminde kullanılan “pekiştirmeli öğrenme” modeline odaklanıldı. Bu yaklaşım yapay zekaya muhakkak bir hedef doğrultusunda ne yapılması gerektiğini öğretmeyi hedefliyor.
Pekiştirmeli öğrenmede “etken” ismi verilen makine, karşılaştığı durumlara reaksiyon veriyor ve gerçek reaksiyon verdiğinde bir ödül puanı alıyor.
“BİZ YAPAY ZEKAYA ÇOK BÜYÜK BİR ÖDÜL VERDİK”
Küçük çocukların ödül/ceza yoluyla toplumsal maharetler edinme sürecini andıran bu usulde yapay zeka, aldığı ödül puanını hep azamiye çıkarmak için çalışıyor.
Modelin risklerine dikkat çekilen makalede, “Örneğin, bir şeyin bizi tatmin ettiğini belirtmek için yapay zekaya büyük bir ödül verdik. Bizi tatmin eden şeyin aslında bu mükafatın gönderilmesi olduğunu varsayabilir. Hiçbir müşahede bunu yalanlayamaz” sözleri yer aldı.
Yazarlar, gelecekte yeni formlara kavuşacak ve daha da gelişecek yapay zekanın verilen maksada ulaşmadan mükafatı elde edebilmek için yeni prosedürler geliştirebileceğini ve hileye başvurabileceğini de belirtti.
“POTANSİYEL TEHDİTLERİ ORTADAN KALDIRMAK İSTEYEBİLİR”
Diğer bir deyişle yapay zeka, mükafatı üzerinde denetim sağlamak için “potansiyel tehditleri ortadan kaldırmak” isteyebilir. Bunun sonucunda insanlara ziyan vermesi de mümkün.
Makaleye nazaran bu durum, yiyeceklerini üretme yahut ışıkları açık tutma üzere gereksinimlerle hareket eden insanlık ve mükafatını teminat altına almak için mevcut tüm kaynakları kullanabilecek üstün gelişmiş makine ortasında sıfır toplamlı bir oyuna dönüşecek:
“Bu oyunu kaybetmek ölümcül olur.”
Araştırmacılara nazaran, bunu engellemenin tek yolu daha gelişkin bir yapay zeka amacına gerçek yavaş ve emin adımlarla ilerlemek.
VICE’a konuşan Cohen, “Yarışmanın manası yok. Yarışa girmek, onu nasıl denetim edeceğimizi sandığımız bir yanlış anlamaya götürecektir” dedi:
“Mevcut bilgimizi göz önüne alırsak, yapay zekayı nasıl denetim edeceğimizi anlamak için önemli bir çalışma yapmadığımız sürece onu geliştirmemiz faydalı olmaz.”