Anthropic şirketi, ABD’li yetkililerin siber güvenlik kousunda endişelerini söylemesinin sonrasında en yeni ve en güçlü yapay zeka modeli olan Claude Fable 5 ve Mythos 5’i halka açıldıktan sadece birkaç gün sonra durdurdu. ABD hükümetinin yabancı uyrukluların bu sistemleri kullanmasını yasaklayan bir yasa çıkarması üzerine karar acil olarak uygulandı. Açıklamada mevzuata uyum sağlamak adına bu araçları tüm müşterileri için aniden devre dışı bıraktıkları açıklandı. Hükümetin, sistemdeki kısıtlamaları kırmayı sağlayan bir jailbreak (yazılım kırma) yöntemi tespit ettiği düşülülmekte. Anthropic ise bu açığın zaten basit olduğunu ve piyasadaki diğer halka açık modeller tarafından da bulunacağını iddia ediyor.
Yeni Model Ne Kadar Güçlü?
Şirketin daha önce piyasaya sürülemeyecek kadar güçlü olarak tanıttığı Fable 5, üst düzey siber hackleme ve bilgisayar sistemlerindeki açıkları bulma yeteneklerine sahip. İngiltere Yapay Zeka Güvenliği Enstitüsü’nün yaptığı testler, modelin siber savunma sistemlerini %73 oranında aşabildiğini gösterdi. Bu ciddi bir oran olarak görünüyor. Yaşanan bu küresel gelişme üzerine Avrupa Birliği, ABD ve Asya merkezli teknolojilere olan bağımlılığını azaltması gerektiğini vurgulayarak teknolojik özgürlük çağrısında bulundu. Uzmanlar ise bu tür ani yasaklamaların yapay zekaya olan güvene zarar vereceği konusunda endişeli.
Konu Neden Siyasete Uzanıyor?
Bu askıya alma kararı, Anthropic ile Trump yönetimi arasında devam eden gerilimin tam ortasında geldi. Eski Savunma Bakanı Pete Hegseth’in şirketi kamuya açık bir şekilde “tedarik zinciri riski” olarak ilan etmesinin ardından Anthropic, hükümete dava açmıştı. ABD mahkemesi ordu ve devlet kurumlarının dava süresince Anthropic yapay zeka kullanmaya devam edeceğine hükmetti. Ancak buna rağmen yeni modelin güvenlik gerekçesiyle tamamen engellenmesi soru işaretlerine yol açtı.