Meta AI Uygulaması İnsanların Garip Kişisel Sohbetlerini 'Keşfetmenize' Olanak Tanıyor

Meta'nın AI platformundaki bir kullanıcının halka açık mesajında ​​"Genç kadınlar hangi ülkelerden [sic] hoşlanıyor" yazıyor. "Ayrıntılara ihtiyacım var, 66 yaşındayım ve bekarım. Iowa'lıyım ve genç bir kadın bulabilirsem yeni bir ülkeye taşınmaya açığım." Sohbet robotu coşkuyla yanıt verdi: "Yeni bir başlangıç ​​ve yeni bir yerde aşk arıyorsunuz. Bu heyecan verici!" ardından "İspanya veya İtalya gibi Akdeniz ülkeleri veya hatta Doğu Avrupa ülkeleri" önerdi.

Bu, Nisan ayında başlatılan ve sosyal bir akış olarak da çalışan bir sohbet robotu platformu olan Meta AI'da herkese açık olarak görüntülenebilen birçok görünüşte kişisel sohbetten sadece biri. Meta AI uygulamasında, bir "keşfet" sekmesi, diğer kişilerin sohbet robotuyla etkileşimlerinin zaman çizelgesini gösterir; Meta AI web sitesinde kısa bir aşağı kaydırma, kapsamlı bir kolajdır. Vurgulanan sorguların ve yanıtların bazıları zararsız olsa da (gezi güzergahları, yemek tarifi tavsiyeleri) diğerleri konumları, telefon numaralarını ve kullanıcı adlarına ve profil fotoğraflarına bağlı diğer hassas bilgileri ortaya çıkarır.

Elektronik Gizlilik Bilgi Merkezi'nin kıdemli danışmanı Calli Schroeder, WIRED'a verdiği röportajda, insanların "tıbbi bilgileri, ruh sağlığı bilgilerini, ev adreslerini, hatta doğrudan devam eden mahkeme davalarıyla ilgili şeyleri paylaştığını" gördüğünü söyledi.

Schroeder, "Bunların hepsi inanılmaz derecede endişe verici, çünkü bence bu hem insanların bu sohbet robotlarının ne yaptığını veya ne işe yaradığını yanlış anladığını, hem de gizliliğin bu yapılarla nasıl çalıştığını yanlış anladığını gösteriyor," diyor.

Uygulamanın kullanıcılarının Meta'nın AI'sıyla olan konuşmalarının herkese açık olduğunun farkında olup olmadıkları veya hangi kullanıcıların haber kuruluşlarının bunu bildirmeye başlamasının ardından platformu trollediği belirsizdir. Konuşmalar varsayılan olarak herkese açık değildir; kullanıcılar bunları paylaşmayı seçmek zorundadır.

Kullanıcılar ve Meta'nın AI sohbet robotu arasında özel olması amaçlanan çok sayıda konuşma var. Bir kullanıcı AI sohbet robotundan bir kiracının kira sözleşmesini feshetmek için bir format sağlamasını isterken, bir diğeri okulun adı da dahil olmak üzere kişisel bilgiler sağlayan bir akademik uyarı bildirimi sağlamasını istedi. Başka bir kişi, kız kardeşinin, adını ve soyadını gösteren bir Instagram profiline bağlı bir hesap kullanarak belirli bir şehirdeki olası kurumsal vergi dolandırıcılığındaki sorumluluğu hakkında soru sordu. Başka biri, iddia edilen suçlu ve kullanıcının kendisi hakkında çok sayıda kişisel olarak tanımlanabilir bilgi sağlayan bir mahkemeye karakter beyanı geliştirmesini istedi.

Ayrıca, insanların bağırsak hareketleriyle ilgili sorunlarını ifşa etmeleri, kurdeşenleri için yardım istemeleri ve iç uyluklarındaki kızarıklık hakkında bilgi almaları gibi birçok tıbbi soru örneği de var. Bir kullanıcı Meta AI'ya boyun ameliyatı hakkında bilgi verdi ve istemde yaşını ve mesleğini de belirtti. Hesapların çoğu, ancak hepsi değil, bireyin herkese açık bir Instagram profiline bağlı görünüyor.

Meta sözcüsü Daniel Roberts, WIRED'a gönderdiği e-posta açıklamasında, kullanıcıların Meta AI ile sohbetlerinin, kullanıcılar bunları Discover akışında paylaşmak için çok adımlı bir süreçten geçmediği sürece gizli olduğunu yazdı. Şirket, Meta AI platformunda kişisel olarak tanımlanabilir bilgilerin paylaşılması için hangi önlemlerin alındığına ilişkin sorulara yanıt vermedi.

Meta, uygulamayı duyuran bir şirket blog yazısında "Siz paylaşmayı seçmediğiniz sürece hiçbir şey akışınızda paylaşılmaz" dedi. Ayrıca kullanıcıların yapay zekasına "sizin hakkınızda belirli şeyleri hatırlamasını" söyleyebileceğinden ve "Profiliniz ve beğendiğiniz veya etkileşimde bulunduğunuz içerikler gibi Meta ürünlerinde paylaşmayı seçtiğiniz bilgilerden yararlanarak sorularınıza daha alakalı yanıtlar sunacağından" da söz edildi.

Schroeder, "İnsanlar bir yapay zekaya koyduğunuz hiçbir şeyin gizli olmadığını gerçekten anlamıyor," diyor. "Hiçbirimiz bu bilgilerin nasıl kullanıldığını gerçekten bilmiyoruz. Kesin olarak bildiğimiz tek şey, bunların sizinle uygulama arasında kalmadığı. Başka insanlara, en azından Meta'ya gidiyor."

Meta'nın AI uygulamasının ilk lansmanından sonra eleştirmenler, potansiyel gizlilik sorunlarına dikkat çekmekte gecikmediler; bir başlıkta uygulama " olmayı bekleyen bir gizlilik felaketi" olarak adlandırıldı. Bu endişelere rağmen, bu tür bir AI'nın geliştirilmesi ve dağıtımının hızı, özellikle Meta'da yavaşlama belirtisi göstermiyor: CEO Mark Zuckerberg yakın zamanda Meta'nın AI asistanının şirketin platformlarında 1 milyar kullanıcısı olduğunu duyurdu ve Meta'nın, Scale AI kurucu ortağı Alexandr Wang liderliğinde süper zeka geliştirmeye adanmış yeni bir AI laboratuvarı kurduğu bildirildi .

Perşembe günü bir kullanıcı, Meta AI'ya yaptığı açıklamada, "Meta, kullanıcılarının ne kadar hassas bilgiyi yanlışlıkla kamuya açık hale getirdiğinin farkında mı?" sorusunu sordu ve bu soru kamu akışında gösterildi.

Chatbot, "Bazı kullanıcılar, platform varsayılanları veya zaman içinde ayarlarda meydana gelen değişiklikler hakkındaki yanlış anlaşılmalar nedeniyle istemeden hassas bilgileri paylaşabilir," diye yanıtladı. "Meta, kullanıcıların gizliliklerini yönetmelerine yardımcı olmak için araçlar ve kaynaklar sağlar, ancak bu devam eden bir zorluktur."