Microsoft, NVIDIA, Google ve diğerlerinden yapay zeka için yeni koalisyon

Aspen Güvenlik Forumu sırasında Güvenli Yapay Zeka Koalisyonu (CoSAI) adıyla yeni bir endüstri kuruluşu duyuruldu. CoSAI’nin kurucu Premier Sponsorları arasında Google, IBM, Intel, Microsoft, NVIDIA ve PayPal bulunuyor. Amazon, Anthropic, Cisco, Chainguard, Cohere, GenLab, OpenAI ve Wiz de kurucu sponsorlar olarak belirtiliyor.

Bu açık kaynak girişimi, açık kaynak metodolojileri, standartlaştırılmış taslaklar ve araçlar aracılığıyla rehberlik sunmayı ve geliştiricilerin Tasarım Yoluyla Güvenli Yapay Zeka sistemleri oluşturmasını sağlamayı amaçlıyor. CoSAI özellikle yapay zeka sistemlerinin güvenli geliştirilmesine, entegrasyonuna, konuşlandırılmasına ve işletilmesine odaklanacak ve model hırsızlığı, veri zehirlenmesi, anında enjeksiyon, ölçekli kötüye kullanım ve çıkarım saldırıları gibi riskleri azaltacak.

CoSAI, diğer açık kaynak topluluk projelerine benzer şekilde genel teknik gündemini ilerletmek ve yönetmek için bir Proje Yönetim Kurulu ve çeşitli iş akışlarını denetlemek için akademi ve endüstriden yapay zeka uzmanlarından oluşan bir Teknik Yönlendirme Komitesi oluşturacak.

Bildirilene göre CoSAI’nin ilk çalışması “yapay zeka sistemleri için yazılım tedarik zinciri güvenliği”, “savunucuları değişen siber güvenlik ortamına hazırlamak” ve “yapay zeka güvenlik yönetimi” başlıklarına odaklanacak.

Google CoSAI Yönetim Kurulu eş başkanı David LaBianca, CoSAI’nin oluşumuna ilişkin yaptığı açıklamada bu kuruluşun, “yapay zekanın güvenli entegrasyonu ve dağıtımı için gerekli olan bilgi ve ilerlemelerin demokratikleştirilmesi gerekliliğini” temel aldığını ve “OASIS Open’ın yardımıyla bu çalışmayı ve önde gelen şirketler, uzmanlar ve akademisyenler arasındaki iş birliğini sürdürmeyi” heyecanla beklediklerini söyledi.