Anthropıc’te deprem etkisi yaratan istifadan sonra gelen itiraf: Hayatlarımızla kumar oynuyorlar

İsmail Şahin - OpenAI ve ardından Anthropic bünyesinde çalışan araştırmacı Jacob Coxon’un istifa kararı, yalnızca teknoloji dünyasında değil, politika ve finans çevrelerinde de geniş yankı uyandırdı.

27 yaşındaki Coxon, son üç yıldır büyük dil modellerinin “ön eğitim” (pre-training) süreçlerinde görev alıyordu. Ancak Coxon’a göre sektör, yalnızca daha güçlü modeller geliştirme yarışında değil; aynı zamanda insanlık için ciddi riskler yaratabilecek bir noktaya doğru ilerliyor.

X hesabından yaptığı açıklamada hem OpenAI hem de Anthropic’i eleştiren Coxon, “Her iki şirket de sorumlu davranmıyor. Kendini geliştiren süper zekâya doğru yarışıyorlar ve hayatlarımızla kumar oynuyorlar” ifadelerini kullandı. Araştırmacıya göre yapay zekâ sistemlerinin gelişim hızı, kamuoyunun algıladığından çok daha yüksek seviyede. En dikkat çekici iddiası ise yapay zekâyı geliştiren birçok üst düzey araştırmacı ve yöneticinin, teknolojinin insanlar üzerinde risk yaratabileceğine gerçekten inanması oldu. Coxon, “Yapay zekâ geliştiren insanlar, on yılın sonuna kadar hepimizi öldürebileceğine samimi şekilde inanıyor. Bu bir pazarlama numarası değil. Tam tersine, birçok yönetici basında mantıklı görünmek için ifadelerine dikkatle bürünüyor ama aynı insanlar özelde korkularını dile getiriyor” dedi.

Coxon’a göre Anthropic, risklerin farkında olsa da sektördeki rekabet nedeniyle çalışmalarını yavaşlatamıyor. Coxon, şirketlerin temel düşüncesini “Başkaları sorumlu davranmayacaksa ilk biz geliştirmeliyiz” şeklinde özetliyor. Nitekim Anthropic, şubat ayında güvenlik şartlarını yerine getiremediği takdirde model geliştirmeyi durduracağını belirten bir taahhüdü kurumsal güvenlik sözleşmesinden çıkarmıştı. Şirket, tek taraflı bir yavaşlamanın daha az dikkatli rakipleri güçlendirebileceğini…