Google’ın yapay zekası, dosyalarımızı iznimiz olmadan tarıyor mu?

Google’ın Gemini AI’si, Google Drive’da barındırılan PDF dosyalarını aktif izin veya girişim olmadan taramakla suçlanıyor ve bu, AI güvenliği ve gizlilik endişeleri hakkında yeni bir tartışmayı ateşledi. Yapay Zeka Yönetişimi Kıdemli Danışmanı Kevin Bankson, özel ve gizli bir vergi beyannamesinde otomatik olarak oluşturulan yapay zeka özetiyle ilgili endişelerini X’te paylaştı.

Bankston paylaşımında, Gemini AI’nin özel belgeleri izinsiz okumasıyla ilgili deneyimini ve ardından bulut depolama platformundaki işlevselliği devre dışı bırakmayla ilgili sorunları ayrıntılı olarak anlattı. Bankston, özelliği devre dışı bırakma girişimlerine rağmen Gemini’nin Google Drive’da çalışmaya devam ettiğini tespit etti ve bu durum, Google’ın kullanıcı verilerini ve gizlilik ayarlarını nasıl ele aldığıyla ilgili soruları gündeme getirdi.

Just pulled up my tax return in @Google Docs–and unbidden, Gemini summarized it. So…Gemini is automatically ingesting even the private docs I open in Google Docs? WTF, guys. I didn't ask for this. Now I have to go find new settings I was never told about to turn this crap off.

— Kevin Bankston (@KevinBankston) July 10, 2024

Bankston, Gemini’nin entegrasyonunu devre dışı bırakmak için doğru kontrolleri bulamayınca, Google’ın yapay zeka sohbet robotundan ayarları tam olarak belirlemesini iki kez istedi. İkinci, daha ayrıntılı bir yanıt da istediği sonucu vermedi: “Gemini, kontrol panelimde Uygulamalar ve hizmetlerde *değil* (1. seçenek) ve Gemini sayfasının (2. seçenek) sağ üst köşesinde bir profil resmim yoktu.” Bankston, başka bir X kullanıcısının yardımıyla, zaten devre dışı olan kontrolün ya arızalı bir kontrolü vurguladığını ya da başka ayarların başka bir yerde gizlendiğini gösterdiğini buldu.

Ancak önceki Google belgeleri, şirketin Google Workspace verilerini üretken yapay zeka hizmetlerini eğitmek veya iyileştirmek ya da hedefli reklamları beslemek için kullanmayacağını söylüyordu. Bankston, Google Workspace Labs’e önceki katılımının Gemini’nin davranışını etkilemiş olabileceğini öne sürüyor. Eğer bir kullanıcı artık üretken yapay zeka özetlerine erişmek istemiyorsa, PDF’ler için Google Drive’daki Gemini yan paneli kapatılabilir.

Google, kullanıcı verilerini güvenli ve emniyetli bir şekilde işlemeyi vaat etse de, yapay zeka gelişmeye devam ederken ve her gün kullandığımız ürünlere daha derinlemesine yerleşirken bu durum, izin ve kullanıcı kontrolünün önemini bir kez daha doğruluyor.