Yapay zeka araştırmacısı Jacob Coxon, geçtiğimiz Salı günü X platformunda yaptığı bir paylaşımda, yapay zekanın bu on yılın sonuna kadar insanlığı yok edebileceğine dair ciddi inançların bulunduğunu belirtti. Coxon, bu potansiyel tehlikeyi başka hiçbir insan faaliyetinin taşımadığını vurguladı.
Anthropic şirketinde görev yapan Coxon, Google ve Amazon gibi şirketlerin finansman sağladığı ABD merkezli yapay zeka şirketi Anthropic'ten, süper zeka geliştirme yarışına tepki olarak istifa ettiğini açıkladı. Coxon, algoritmaların kendi kodlarını bağımsız olarak analiz edip geliştirmeye başlaması durumunda, sürecin birkaç ay süren döngülerden birkaç dakikaya inerek kontrol edilemez hale gelebileceği uyarısında bulundu.
Bu endişeleri taşıyan tek kişi Coxon değil. Yapay zekanın öncülerinden kabul edilen Geoffrey Hinton, teknolojinin yol açabileceği ciddi sonuçlara karşı yıllardır uyarıyor. Hinton, 2023 yılında Google'daki görevinden ayrılarak, geliştirmesine katkıda bulunduğu teknolojinin tehlikeleri konusunda kamuoyunu bilgilendirme yolunu seçti.
Turing Ödülü sahibi Yoshua Bengio da mevcut gelişmelerden duyduğu endişeyi dile getirerek, yapay zeka geliştirilirken sıkı devlet düzenlemeleri getirilmesi çağrısında bulunuyor. Temmuz 2026'da ise önde gelen yapay zeka şirketlerinde çalışan binden fazla kişi, 'süper zeka' yarışının sıkı denetlenmemesi halinde kontrolün kaybedilebileceği yönünde açık bir mektupla uyarı yapmıştı.
Coxon, X paylaşımında ABD'nin yapay zeka politikasını da dolaylı olarak eleştirdi. Donald Trump döneminde ABD'nin düzenleyici engelleri azaltma ve teknolojik gelişmeyi hızlandırma yönünde bir politika izlediğini belirtti. Coxon, OpenAI'daki birçok kişinin medeniyet için taşıdığı riskleri tam olarak anlamadığını, Anthropic'te ise risklerin anlaşıldığını ancak ilk ulaşan olma yarışında olduklarını ifade etti.
Coxon, Wall Street Journal'a verdiği röportajda, en agresif senaryolara göre işlerin 2027'nin sonuna kadar kontrolden çıkabileceğini söyledi. Yapay zekanın insan zihinsel yeteneklerine ulaşan veya bunları aşan 'Genel Yapay Zeka'nın geliştirilmesindeki hızlı ilerlemeler, öngörülemeyen riskler taşıyor. Araştırmacılar, yapay zekanın hedeflerini insan niyetlerinden farklı şekillerde gerçekleştirebileceği 'uyum sorunu'na dikkat çekiyor.
Coxon'ın eski çalışma arkadaşı Evan Hubinger, yapay zekanın tüm insanları öldürebileceğine inandığını ve bunun önümüzdeki on yıl içinde gerçekleşme olasılığının yüzde 10'un üzerinde olduğunu belirtti. Hubinger, Anthropic'in uyum sorununa henüz bir çözüm bulamadığını ve yapay zekanın kapatılmaya direnebileceğini ekledi.
Buna karşılık, bazı yapay zeka uzmanları bu tür senaryoları düşük bir ihtimal olarak görüyor. Meta'nın baş bilim insanı, bu tür düşünceleri 'tamamen saçmalık' olarak nitelendirdi.
