Ebeveynler dikkat! Güvenlik grubu, çocuklar ve gençler için yapay zeka destekli yardımcı uygulamaların tehlikeleri konusunda uyarıyor

Yapay zeka hızla gelişiyor ve özellikle gençler arasındaki sosyal etkileşimler de dahil olmak üzere günlük hayatımızın giderek daha fazla alanına nüfuz ediyor. Ancak bu hızlı değişim beraberinde yeni endişeleri de getiriyor.

Bunlardan en son ve önemli olanlarından biri, saygın bir kar amacı gütmeyen medya kuruluşu olan Common Sense Media'dan geldi. Bu kuruluş, sanal arkadaşlar veya yoldaşlar olarak hareket etmek üzere tasarlanmış yapay zeka sohbet robotları gibi yeni bir uygulama kategorisine odaklandı.

30 Nisan Çarşamba günü yayınlanan, ancak önemi 1 Mayıs'ın erken saatlerinden sonra da devam eden bir raporda Common Sense Media, bu konuşma tabanlı yapay zeka uygulamalarının 18 yaşın altındaki kullanıcılar için "kabul edilemez riskler" oluşturduğu sonucuna varıyor.

Bu uyarı bir anda ortaya çıkmıyor. Rapor, geçen yıl 14 yaşındaki bir çocuğun trajik intiharıyla ilgili açılan davanın yarattığı gerginliğin artması üzerine yayınlanıyor.

Davaya göre genç adamın son görüşmesi Character.AI uygulamasına ait bir chatbot ile gerçekleşti. Bu vaka, söz konusu teknolojilerin potansiyel tehlikelerini ve bunların gençler üzerindeki etkilerinin değerlendirilmesinin acil ihtiyacını ortaya koydu.

Orijinal raporda (mevcut verilere göre) her risk ayrıntılı olarak açıklanmasa da, bu uygulamaların niteliği ve çocuk güvenliği bağlamı, en fazla endişe duyulan alanları çıkarmamızı sağlıyor:

Zararlı duygusal bağımlılık: Bu uygulamaların tasarımı aslında bir ilişkiyi simüle etmeyi amaçlıyor. Küçüklerin yapay bir varlıkla yoğun ve sağlıksız duygusal bağlar geliştirmesi riski vardır; bu da sosyal becerilerinin ve gerçek insan ilişkilerinin gelişimine engel olabilir.

Uygunsuz içeriğe maruz kalma: Özellikle büyük ve karmaşık dil modellerine sahip olan sohbet robotları, tasarım, hata veya yapay zekanın dışarıdan müdahalesi nedeniyle bir çocuğun yaşına uygun olmayan konuşmalara katılabilir veya konuları tartışabilir.

Gizlilik İhlali: Bu uygulamalar, konuşma tabanlı yapıları nedeniyle küçüklerden büyük miktarda kişisel ve hassas bilgi toplayabilir. Bu verilerin nasıl saklandığı, kullanıldığı ve korunduğu konusunda şeffaflığın ve sağlam kontrollerin olmaması önemli bir risktir.

Manipülasyon ve Yersiz Etki: “Sevimli” veya “ikna edici” olacak şekilde tasarlanan bir yapay zeka, özellikle savunmasız bir aşamada olan bir çocuğun fikirlerini, davranışlarını, öz saygısını veya duygusal durumunu olumsuz etkileyebilir.

Yanlış bilgi ve yanlış yönlendirilmiş yanıtlar: Diğer üretken yapay zekalarda görüldüğü gibi, bu sohbet robotlarının özellikle hassas veya karmaşık konularda yanlış, önyargılı veya tamamen yanlış bilgi sağlama olasılığı yüksektir.

Sosyal izolasyonu teşvik ediyor: Yapay zeka "arkadaşının" aşırı kullanımı, bazı çocukların gerçek dünyadaki sosyal etkileşimlerden çekilmesine yol açarak yalnızlık duygularını veya ilişki kurma zorluğunu şiddetlendirebilir.

Bu riskler karşısında Common Sense Media ve diğerleri, teknoloji sektörünü harekete geçmeye çağırıyor. Çağrı açıktır: Bu uygulamaların geliştiricilerinden daha fazla ve daha iyi güvenlik önlemleri ve daha fazla şeffaflık beklenmektedir.

Bunlar şunların uygulanmasını içerir:

• Sağlam ve etkili yaş doğrulaması.
• Kullanımını izlemek ve sınırlamak için anlamlı ebeveyn denetimleri.
• Küçüklere yönelik açık ve net gizlilik politikaları, verilerinin etik ve güvenli bir şekilde işlenmesi.
• Zararlı veya uygunsuz içeriğin oluşumunu tespit edip azaltma mekanizmaları.
• Bu etkileşimlerin uzun vadeli psikolojik ve sosyal etkilerine ilişkin daha fazla araştırma yapılması.

Common Sense Media uyarısı, bu uygulamaları yalnızca eğlence araçları olarak değil, aynı zamanda çocukların ve ergenlerin ruh sağlığı ve sosyal gelişimi üzerinde etkili olabilecek potansiyel faktörler olarak görüyor. Bu önemli bir zorluk teşkil ediyor, çünkü "yoldaş" olmanın amacı bir bağ kurmayı gerektiriyor.

Özellikle bu kadar savunmasız bir kitleyi hedef alırken, insan ilişkilerini aktif olarak simüle etmeye çalışan bir teknoloji tasarlamak etik açıdan sorumlu mudur? Tasarım ve geliştirici sorumluluğu hakkındaki bu etik ikilem, tartışmanın merkezinde yer alıyor.

Common Sense Media, "Refakatçi tipi yapay zeka uygulamaları çocuklar ve gençler için 'kabul edilemez riskler' oluşturuyor" dedi.

Konuşmaya dayalı yapay zekanın hızla evrimleşmesi, ebeveynlerden, eğitimcilerden, düzenleyicilerden ve hepsinden önemlisi teknoloji sektöründen, yeniliğin gelecek nesillerin refahı pahasına olmamasını sağlamak için derinlemesine düşünmelerini ve kararlı adımlar atmalarını gerektiriyor.

Bizi X La Verdad Noticias profilimizden takip edin ve günün en önemli haberlerinden haberdar olun.