Anthropic'in Claude Fable 5'i Temel Biyoloji Sorularından Kaçınıyor

Anthropic, en güçlü yapay zeka modeli olduğunu belirttiği ve özellikle biyoloji alanındaki yeteneklerini övdüğü Claude Fable 5'i yakın zamanda piyasaya sürdü. Ancak, bu son teknoloji yapay zekanın, lise öğrencilerinin cevaplaması beklenen temel biyoloji sorularıyla bile zorlanması dikkat çekiyor. Fable 5, cevap vermek yerine bu soruları önceki amiral gemisi modeli Claude Opus 4.8'e yönlendiriyor.

Bu durum, Fable 5'in cevapları bilmemesinden kaynaklanmıyor. Bu, Anthropic tarafından tasarlanmış bilinçli bir tercih. Fable, halka açık, Mythos sınıfı bir model olarak tanımlanıyor. Bu yapay zeka ailesi, o kadar yetenekli ki Anthropic daha önce kamuoyuna duyurmanın çok tehlikeli olacağını belirtmişti.

Fable 5'in temel biyoloji sorularını yanıtlamasının kısıtlanması, Anthropic'in yapay zeka güvenliği ve kamuoyuna sunma konusundaki yaklaşımı hakkında soruları beraberinde getiriyor. Şirket, Mythos sınıfı modellerinin özellikle siber güvenlik gibi alanlardaki gelişmiş yeteneklerini vurgularken, bu kısıtlama bu güçlü araçların geniş çapta erişilebilirliğini sağlamada temkinli bir strateji izlendiğini gösteriyor. Anthropic'in, görünüşte zararsız konular için bile yeteneklerin tam olarak açıklanmasından ziyade güvenlik ve kontrolü önceliklendirdiği anlaşılıyor.

Fable 5'in her şeyi bilen bir yapay zeka olmasını bekleyen kullanıcılar için bu kısıtlama şaşırtıcı olabilir. Bu durum, yapay zeka geliştiricilerinin karşılaştığı karmaşık dengeyi ortaya koyuyor: yapay zekanın sınırlarını zorlarken, potansiyel riskleri ve toplumsal etkileri yönetmek. Bu hamle ayrıca, en gelişmiş yapay zeka modellerinin bile yaratıcıları tarafından belirlenen belirli güvenlik duvarlarına ve sınırlamalara sahip olabileceğini ve bu durumun davranışlarını ve paylaşmaya istekli oldukları bilgileri etkilediğini gösteriyor.