ABD’nin önde gelen yapay zeka şirketlerinden Anthropic’in “fazla güçlü” olarak nitelendirilen yeni yapay zeka modelleri “Fable 5” ve “Mythos 5”, şirket tarafından piyasaya sürülmesinden birkaç gün sonra Beyaz Saray’ın talebiyle erişime kapatıldı. Beyaz Saray’ın modelleri yabancıların erişimine kapatmaya yönelik kontrolcü hamlesi, Avrupa başta olmak üzere dünyada endişeye neden oldu.
ABD hükümetinin 12 Haziran Cuma günü geç saatlerde aldığı ani karar doğrultusunda, yapay zeka şirketi Anthropic’in en gelişmiş iki yeni modelinin ABD vatandaşı olmayan kişiler tarafından kullanılmasının askıya alınması istendi. Anthropic tarafından yapılan açıklamada, ABD hükümetinin şirketten “Claude Fable 5” ve “Claude Mythos 5” modellerine ülke dışından erişimin durdurulmasını talep ettiği belirtildi. Ulusal güvenlik risklerinin gerekçe gösterildiği talimatın, ABD içinde ya da dışında bulunan tüm yabancı ülke vatandaşlarını kapsadığı, buna şirket bünyesinde çalışan yabancı uyruklu personelin de dahil olduğu ifade edildi.
Şirket, kullanıcıların ABD vatandaşı olup olmadığını anlık ve kesin şekilde doğrulamanın teknik olarak mümkün olmaması nedeniyle, hukuki risklerle karşılaşmamak adına söz konusu modelleri tüm kullanıcılar için dünya genelinde erişime kapatma kararı aldı.
Anthropic ile Beyaz Saray arasında görüşmeler sürüyor
Kararın ardından Anthropic’in üst düzey teknik yöneticileri, Pazar gününden itibaren Beyaz Saray yetkilileriyle görüşmelere başladı. Şirket tarafından yapılan açıklamada, ABD hükümetinin Fable 5 modelinin güvenlik bariyerlerinin aşılabileceğine ve modelin normalde yapmaması gereken işlemleri gerçekleştirmeye ikna edilebileceğine inandığı belirtildi. Siber güvenlik dünyasında “jailbreak” olarak bilinen bu yöntem, yazılım üzerindeki korumaların kaldırılarak kısıtlı özelliklerin kullanılabilmesini veya hassas verilere erişilebilmesini ifade ediyor.
Anthropic açıklamasında, hükümetin kararına dayanak oluşturduğu düşünülen teknik raporun incelendiği ve raporda belirtilen yeteneklerin benzer seviyelerde başka yapay zeka modellerinde de bulunduğunun tespit edildiği kaydedildi.
Şirket, yaşanan durumun bir yanlış anlaşılmadan kaynaklandığını savunurken, karara resmi olarak itiraz edildiğini ve erişimin yeniden açılması için ABD makamlarıyla görüşmelerin sürdüğünü duyurdu.
“Siber silah” endişesi gündemde
Anthropic’in yeni nesil modeli Fable 5’in, herhangi bir dış destek almadan güvenlik açıklarını tespit edebilme kapasitesine sahip olması, uzmanlar arasında endişeye neden oldu. Yetkililer, modelin güvenlik sınırlarının aşılması halinde kötü niyetli kişiler tarafından bir “siber silah” olarak kullanılabileceğinden kaygı duyuyor.
Özellikle bankacılık, enerji ve kritik altyapılar gibi hassas sektörlere yönelik siber saldırıların daha hızlı ve etkili şekilde gerçekleştirilmesini mümkün kılabileceği değerlendirilen model, bu nedenle test aşamasında yalnızca sınırlı sayıdaki kurumun erişimine açılmıştı.
Claude Fable 5’in piyasaya sürülmesinden önce finans, teknoloji ve kamu sektörlerinden birçok kurum, modelin kendi sistemlerinde test edilmesi sırasında elde edilen sonuçlar nedeniyle ürünün kamuya açılması konusunda çekincelerini dile getirmişti. Anthropic de modelin bilgisayar sistemlerini istismar etme veya sızma girişimlerinde bulunabilecek seviyede gelişmiş yeteneklere sahip olduğunu kabul etmiş ve bu nedenle erken erişimi sınırlı tutmuştu.
Şirket ayrıca Fable 5’in piyasaya sürülmesinden önce modelin “yayınlanamayacak kadar güçlü” olduğunu öne sürmüş, ancak bu açıklama bazı çevreler tarafından pazarlama stratejisinin bir parçası olarak değerlendirilmişti.
Avrupa’dan tepki geldi
Anthropic’in son modellerinin ani şekilde erişime kapatılmasından en fazla etkilenen bölgelerin başında Avrupa geldi. Avrupa Birliği üyesi birçok ülkenin, özellikle Mythos modelinin siber güvenlik ve kamu sistemlerinde kullanılmasına yönelik projeler için şirketle görüşmeler yürüttüğü biliniyor.
Avrupa Komisyonu tarafından yapılan açıklamada, ABD yönetiminin aldığı ihracat kontrol kararının sonuçlarının değerlendirildiği belirtildi. Komisyon sözcüsü, yeni nesil yapay zeka modellerinin siber savunma dahil olmak üzere önemli faydalar sunduğunu ancak aynı zamanda ciddi güvenlik riskleri de barındırdığını ifade etti. Açıklamada ayrıca, bu tür önlemlerin müttefik ülkelere karşı ayrımcı şekilde uygulanmaması gerektiği vurgulanırken, yaşanan gelişmenin Avrupa’nın teknolojik bağımsızlığını güçlendirmesi gerektiğini gösterdiği kaydedildi.
Kanada Başbakanı Mark Carney de konuya ilişkin değerlendirmesinde, yaşananların dünyanın çok az sayıda gelişmiş yapay zeka sistemine aşırı bağımlı hale gelmesinin oluşturduğu riskleri ortaya koyduğunu söyledi.
“Yapay zeka savaşı çoktan başladı”
Karara tepki gösteren Fransa Cumhurbaşkanı Emmanuel Macron’un partisi Renaissance’ın cumhurbaşkanı adayı Gabriel Attal, yaşanan gelişmeyi küresel teknoloji rekabetinin yeni bir aşaması olarak değerlendirdi.
Attal, “Yapay zeka savaşı çoktan başladı” ifadelerini kullanarak, stratejik teknolojilerde dışa bağımlılığın ülkeleri savunmasız bıraktığını savundu. İran’ın Hürmüz Boğazı üzerindeki etkisine benzetme yapan Attal, “ABD’nin aldığı bu karar bunun en açık göstergesidir. Anthropic, ABD’nin Hürmüz Boğazı’dır” değerlendirmesinde bulundu.
Anthropic ile ABD yönetimi arasındaki ilk gerilim değil
Yaşanan kriz, Anthropic ile ABD hükümeti arasında son dönemde yaşanan ikinci büyük anlaşmazlık olarak dikkat çekiyor. Şirket, yılın başlarında ABD kurumlarının kullanımına yönelik bazı yapay zeka güvenlik önlemlerinde değişiklik yapılması talebini reddetmiş, bu durum Anthropic ile Trump yönetimi arasında görüş ayrılığı yaşanmasına neden olmuştu. Yeni erişim kriziyle birlikte iki taraf arasındaki gerilimin yeniden gündeme geldiği değerlendiriliyor.
Kaynak: AA