(VİYANA) HJ – OpenAI’ın rakiplerinden Anthropic, ileri düzey yapay zekâ sistemlerinin geliştirilmesine ara verilmesi seçeneğini yeniden gündeme taşıdı. Şirket, yayımladığı blog yazısında, özellikle çok gelişmiş modellerin geliştirilmesini yavaşlatma ya da durdurma imkânına sahip olmanın dünya açısından faydalı olacağını belirtti.
Anthropic’e göre böyle bir ara, toplumun yeni teknolojiye uyum sağlaması ve yapay zekânın insan yararına işleyecek şekilde şekillendirilmesi için zaman kazandırabilir. Ancak şirket, bunun tek taraflı bir kararla uygulanamayacağını açıkça dile getirdi.
Şirket, bu tür bir moratoryumun ancak büyük yapay zekâ geliştiricilerinin uzlaşması halinde işe yarayacağını savundu. Mevcut tabloda ise sektörde böyle bir eğilim görünmüyor. Aksine, şirketler milyarlarca dolarlık veri merkezi ve yapay zekâ altyapı yatırımlarıyla birbirleriyle yarışıyor.
Anthropic CEO’su Dario Amodei de daha önce Davos’taki Dünya Ekonomik Forumu’nda, özellikle Çin ile süren yapay zekâ rekabetinin geliştirme hızını düşürmeyi son derece zorlaştırdığını söylemişti. Şirket, tek taraflı bir yavaşlamanın sadece yarışta kimin önde olduğunu değiştireceği görüşünde.
Anthropic, bu nedenle başka kuruluşlarla birlikte, olası bir moratoryuma herkesin uyduğunu denetleyebilecek bir kontrol sistemi geliştirmek istediğini açıkladı. Amaç, hiçbir şirketin gizlice avantaj elde etmemesini sağlamak.
Şirketin bu çıkışının arkasında, yapay zekâ modellerindeki hızlı ilerleme yer alıyor. Özellikle sistemlerin kendilerini geliştirme ve iyileştirme kapasitesinin artmasının, insanların yapay zekâ üzerindeki kontrolünü kaybetme riskini büyütebileceği uyarısı yapılıyor. Anthropic, bu eşik noktasına birçok kurumun hazır olduğundan daha erken ulaşılabileceğini savundu.
Claude adlı yapay zekâ yazılımını geliştiren Anthropic, uzun süredir sektörde daha sıkı kurallar çağrısı yapan şirketlerden biri olarak öne çıkıyor. Şirket, son dönemde bazı yazılımlarda yıllarca fark edilmemiş güvenlik açıklarını ortaya çıkaran Claude Mythos Preview ile de dikkat çekmişti.
