Anthropic'te görevli araştırmacı Evan Hubinger, yapay zeka teknolojilerinin önümüzdeki 10 yıl içinde tüm insanlığı yok etme olasılığının yüzde 10'un üzerinde olduğuna inanıyor. Hubinger, bu riskin ciddiyetini vurgulayarak, Anthropic'in süper zeka ile uyum sorununu çözmek için henüz yeterli bir planı olmadığını ve net bir yol haritası izlenmediğini belirtti.
Daha önce OpenAI ve Anthropic gibi yapay zeka devlerinde araştırmacı olarak çalışan Jacob Coxon da benzer endişelerini dile getirmişti. X hesabı üzerinden yaptığı açıklamada Coxon, her iki şirketin de yeterince sorumlu davranmadığını savunarak Anthropic'ten istifa ettiğini duyurmuştu. Coxon, şirketlerin kendi kendini geliştirebilen süper zekaya ulaşma konusunda kontrolsüz bir yarış içinde olduğunu vurguladı.
Coxon, yapay zeka sistemlerinin yeteneklerini hafife almamak gerektiğini belirterek, bu teknolojilerin yakında her şeyi hackleyebilecek, herhangi bir alanı bir gecede dönüştürebilecek ve gerçek güç ile kaynaklar elde edebilecek insanüstü sistemler haline geleceğini ifade etti. Bu alanlardaki ilerlemenin hız kesmeden devam ettiğini de sözlerine ekledi.
Yapay zeka modellerini geliştiren sektör çalışanlarının, bu sistemlerin 10 yıl içinde insanlığı yok edebileceğine dair ciddi inançları olduğunu öne süren Coxon, yöneticilerin kamuoyu önünde ılımlı açıklamalar yapsalar da kapalı kapılar ardında büyük bir korku yaşadıklarını iddia etti. Bu durum, yapay zekanın geleceği ve insanlık üzerindeki potansiyel etkileri hakkında önemli soruları gündeme getiriyor.
