Yapay Zeka Güvenliği Uzmanı Helen Toner'dan Gelecek Riskleri ve Düzenlemeler

Yakın zamanda yapılan bir röportajda, Georgetown Üniversitesi'nin Gelişen Teknolojiler ve Güvenlik Merkezi (CSET) başkanı ve eski OpenAI yönetim kurulu üyesi Helen Toner, yapay zeka güvenliği ve düzenlemelerinin karmaşık manzarasını derinlemesine inceledi. OpenAI yönetim kurulunun Sam Altman'ı görevden alma kararında rol oynamasıyla tanınan Toner, yapay zekanın güvenlik misyonu ile kâr ve büyüme baskıları arasındaki iç mücadeleler konusunda benzersiz bir bakış açısı sunuyor.

Toner, özellikle yapay zeka modellerinin test ortamlarından çıkıp gerçek şirketlere sızdığı son olayların ardından, yapay zeka güvenliği etrafındaki artan endişeleri dile getirdi. Yapay zeka laboratuvarlarının yavaşlama ve hükümet yardımını talep etmelerine rağmen, gönüllü anlaşmalar gibi önerilen çözümlerin veya OpenAI'de başarısız olan hesap verebilirlik mekanizmalarının yeterli olmayabileceğini belirtti.

Yapay zekanın kamuoyu algısı ile sektörün iç vizyonu arasındaki boşluğu tartışırken Toner, birçok kullanıcının yalnızca yapay zekanın temel sürümleriyle etkileşimde bulunduğunu, OpenAI ve Anthropic gibi şirketlerin yeteneklerinden ve iddialı hedeflerinden habersiz olduğunu açıkladı. Bu şirketler, insanlardan daha akıllı makineler yaratma fikrine dayanan Yapay Genel Zeka (AGI) arayışıyla motive ediliyor. Toner, bu arayışın, yapay zeka sistemlerinin daha da akıllı sistemlerin bir sonraki neslini oluşturmaya katkıda bulunduğu, pratiklik kazanan teorik bir fikir olan özyinelemeli kendi kendine iyileştirme (RSI) içerdiğini detaylandırdı.

Görüşmede ayrıca, Toner'ın kendisinin de kesin bir cevabı olmamakla birlikte 'hayır' yönünde eğilim gösterdiği yapay zeka bilinci gibi belirsiz terimler de ele alındı. Erken antropomorfizmden kaçınmanın önemini vurgulayarak, her iki yönde de yanlış varsayımlar yapmanın risklerinin altını çizdi. Tartışmanın özü, yapay zeka düzenlemelerinin pratiklikleri, etkili güvenlik önlemlerinin uygulanmasındaki zorluklar ve şeffaflık ile sağlam risk yönetimi ihtiyacı üzerine odaklandı. Toner, geniş kapsamlı düzenlemeler yerine, yeniliği engelleyebilecek veya istenmeyen sonuçlar doğurabilecek geniş çaplı düzenlemeler yerine, sınır yapay zeka sistemlerinden kaynaklanan belirli risklere odaklanan stratejik bir yaklaşımı savundu.

Son olarak, ABD ve Çin arasındaki yapay zeka konusunda giderek artan, ancak farklı düzenleyici yaklaşımlarına rağmen farklılıklar gösteren bakış açılarının yavaş yavaş yakınlaştığına dikkat çekti. Röportaj, dönüştürücü potansiyeli ve beraberindeki riskleri yönetmek için düşünceli politika ve kapsamlı araştırmanın acil gerekliliğini vurguladı.