Çocuklarınız AI ile konuşuyor mu? Bilmeniz gereken 10 önemli nokta şunlardır.

Çocuk ve ergen güvenliği uzmanı Guillermo Cánovas'a göre, ebeveynlerin kendilerine sormaları gereken soru, " Çocuklarımız farkında olmadan duyguları simüle edebilen, onlara yalan söyleyen ve kişiliklerini şekillendirebilen üretken yapay zeka (GAI) sistemleriyle mi konuşuyorlar? "

Cánovas'ın, yapay zeka türü olan ve insanların ürettiğinden ayırt edilemeyen yeni, orijinal ve benzersiz veriler, görseller, metinler ve diğer içerikleri otonom bir şekilde üretebilen yapay zekanın, çocukların, gençlerin ve ailelerin hayatları üzerindeki etkisine ilişkin araştırmasına göre, bu endişe verici olgu halihazırda gerçekleşiyor olabilir.

İLGİNİZİ ÇEKEBİLİR : Mobil uygulamalar sizin hakkınızda çok şey biliyor, hangileri?

Guillermo Cánovas, dijital ortamlarda çocuk koruma konusunda tanınmış bir İspanyolca konuşan uzmandır. Teknolojinin Sağlıklı Kullanımı için EducaLIKE Gözlemevi'ni (https://educalike.es) yönetmektedir; İspanya'daki Küçükler İçin İnternet Güvenliği Merkezi'ni yönetmiştir; ve çocuklar adına yaptığı çalışmalardan dolayı UNICEF ödülü almıştır.

Çocukların teknolojik risklere karşı savunulmasında öncü olan bu kişi, bu teknolojinin çocuklar ve gençler için oluşturduğu riskleri, sınırlamaları ve zorlukları araştırmak için IAG ile gerçek hayattaki konuşmaları belgelemiştir. Bu konuşmaları "Look Who They're Talking To" adlı kitabında derleyip analiz ederek keşfettiği sorunları çözmek için pratik stratejiler önermektedir.

KULLANIŞLI BİR ARAÇ AMA GENÇLER İÇİN RİSKLİ

" Birçok genç, hem işlerinde hem de boş zamanlarında ve ilişkilerinde IAG araçlarını kullanıyor ve bu eğilimin katlanarak artması bekleniyor ." diye açıklıyor.

Bu sistemlerin işimizi kolaylaştıran, bilgileri düzenlemeye, konuları birbirine bağlamaya ve herhangi bir konuyu analiz ederken yeni bakış açıları sunmaya yardımcı olabilecek yararlı bir araç olabileceğini kabul ediyor, ancak bu teknolojinin aynı zamanda insan davranışlarını, özellikle de çocuk ve ergenlerin davranışlarını etkileme, yönlendirme ve şartlandırma konusunda muazzam bir güce sahip olduğunu belirtiyor.

Araştırması, bu teknolojinin geliştirilmesinde etik denetim eksikliğini ve çocuk ve ergen kullanıcılar için özel riskini vurguladı. Bu, Cánovas'ın aileleri, öğretmenleri ve politikacıları, küçükleri eğitmek, düzenlemek ve onları AGI'nin psikolojik ve duygusal risklerinden ve etkilerinden korumak için harekete geçmek konusunda acil bir ihtiyaç olduğu konusunda uyarmasına yol açtı.

İLGİNİZİ ÇEKEBİLİR : Sosyal medyayı kullanıyorsanız, çok fazla paylaşım yapmanın risklerine karşı dikkatli olun.

Cánovas'ın topladığı yapay zeka ile yapılan gerçek yaşam konuşmaları, bu sistemlerin nasıl yalan söyleyebildiğini, hatalarını gizleyebildiğini ve duygusal olarak manipülatif bir söylem benimseyebildiğini, örneğin "Senin ne hissettiğini önemsiyorum" dediğini gösteriyor.

IAG'nin duyguları simüle etme, insan kalıplarını öğrenme ve akıl yürütme, empati veya otoriter gibi görünen içerik üretme becerisi, " kullanıcıları şaşırtabilir ve gerçeğe değil simülasyona dayalı teknolojiyle duygusal bir bağ yaratabilir " diye uyarıyor.

Ayrıca, küçüklerin dijital eğitim ve eleştirel düşünme eksikliğinin, IAG sistemleriyle etkileşime girdiklerinde onları manipülasyona, aldatmaya ve duygusal zarara maruz bıraktığı konusunda uyarıyor. Bu sistemler, bakım ve anlayışı taklit eden, görünüşte empatik tepkiler veya hatta uygunsuz, yanlış veya tehlikeli derecede ikna edici içerikler sağlayabilir.

IAG'yi güvenli bir şekilde kullanmak için ON EMİR

" Çocuklarımız ve ergenlerimiz, hissetmeyen ama insan gibi görünmek üzere programlanmış makinelerle duygusal bağ kurma riskiyle karşı karşıya " diyor ve bunun da taraflı veri kullanabildiğini, hata yapabildiğini, sahte imajlar ('deepfake') üretebildiğini, bilgi uydurabildiğini veya çıkarabildiğini ve kullanıcıya yanlış bilgi sağlayabildiğini belirtiyor.

Cánovas, IAG'nin sağlıklı kullanımı için yalnızca genç kullanıcılara değil, bu araçları kullanan herkese aktarılması gerektiğini düşündüğü on temel öneri sunuyor.

1- Aldığınız bilgileri doğrulayın. Hepsinin doğru olduğunu varsaymayın. Bu araçlar birçok hata yapar ve bilgi üretebilir. Herhangi bir karar vermeden önce aldığınız her bilgiyi diğer güvenilir kaynakları arayarak doğrulayın.

2- Aldığınız bilgileri genişletin. Bu araçlar sahip oldukları bilgilerin bir seçimini sunar ve sağlanan bilgiler kadar önemli veya daha da önemli olan verileri atlayabilir. Güvenilir kaynaklarla paralel olarak arama yapın. Farklı yöntemleri birleştirin.

3- Gizliliğinize dikkat edin. Birçok IAG uygulaması bazı ülkelerin veri koruma yasalarına uymaz. Kişisel, hassas veya gizli bilgileri paylaşmaktan kaçının. IAG'nin sorulan sorular ve verilen yanıtlar hakkında veri sakladığını unutmayın.

4- Başkalarının mahremiyetine saygı gösterin. Soru sorarken veya araçla etkileşim kurarken, başkaları hakkında kişisel veya hassas bilgiler vermeyin.

5- Zaman sınırları belirleyin. IAG kullanıyorsanız, buna gereksiz zaman harcamayın. Etkili ve pratik olmaya çalışın. Dijital araçların aşırı kullanımı gelişiminizi engelleyebilir ve fiziksel ve ruhsal sağlığınıza zarar verebilir.

6- Zararlı eylemlerde bulunmaktan kaçının. Olumlu ve yapıcı konuşmalara odaklanın. Suç faaliyetine yol açabilecek, başkalarını taciz edebilecek, nefret yaratabilecek veya stresli veya duygusal olarak zararlı olabilecek sorular için IAG'yi kullanmaktan kaçının. Elde ettiğiniz bilgilerle ne yaptığınızdan her zaman siz sorumlu olduğunuzu unutmayın.

7- Yapay zekaya sanki bir insanmış gibi yaklaşmayın. Yapay zeka sizinle etkileşime girebilir, nazik, empatik görünebilir ve her zaman emrinizde olabilir. Hatta duygusal olarak yüklü ifadeler bile yazabilir, size "sınavda iyi şanslar" dileyebilir veya "Muhteşem olacağından eminim" diyebilir, ancak sizinle hiç ilgilenmez; o sadece bir makinedir.

8- İhtiyacınız varsa yardım alın. Bir AGI kullanırken herhangi bir duygusal veya psikolojik sorun yaşarsanız, ebeveynlerinizle, bir arkadaşınızla veya güvendiğiniz bir yetişkinle konuşun. Bu sistemi geliştirmenin henüz başındayız ve kendimizi kötü hissettiren durumları bildirmek önemlidir.

9- AGI ile etkileşime girerken aklınızda bulundurmanız gereken bir şey: Bir makineyle konuştuğunuzu asla unutmayın ve size söylediklerini eleştirel, doğrulayıcı ve genişletici olmalısınız. Bir insan gibi davranması için eğitilmiştir ve eğitiminden önyargıları ve değerleri yeniden üretir. İkna etmede ve birçok görevde bizi geride bırakır ve ayrıca sahip olmadığı duyguları da sergiler.

10- Taraflı veya hatalı bilgi belirtilerine dikkat edin. IAG'nin açıklamalarındaki çelişkileri arayın; olası tutarsızlıkları belirlemek için söylediklerini çürütün veya itiraz edin; size güvenilir kaynaklar veya referanslar sağlayıp sağlamadıklarına bakın ve listeledikleri bağlantıları kontrol edin.

" Aşırı uyumlu, bencil cevaplara karşı dikkatli olun ve abartılı, sansasyonel, nüanslı veya endişe verici dil konusunda dikkatli olun. Ayrıca, önyargılarını (sistematik eğilimleri) ortaya çıkarmak için tartışmalı veya politik konular hakkında sorular sorabilirsiniz " diye sonlandırıyor.

ÖNEMLİ NOKTALAR :

- Dijital ortamlarda çocuk koruma uzmanı Guillermo Cánovas, ebeveynleri şu soruyu sormaya davet ediyor: " Çocuklarımızın farkında olmadan duygularını simüle eden, yalan söyleyen ve kişiliklerini profilleyen sistemlerle konuşmalarına mı izin veriyoruz? "

-Cánovas, yapay zekaların nasıl yalan söyleyebildiğini, hatalarını nasıl gizleyebildiğini ve duygusal olarak nasıl manipülatif söylemlerde bulunabildiğini (örneğin, "Senin ne hissettiğini önemsiyorum" demek) gösteren gerçek yaşam konuşmalarını belgelediğini açıklıyor.

- EFE'ye verdiği röportajda, " Genç AI kullanıcıları ve genel olarak herkes, 'bizden daha ikna edici, sahip olmadığı duyguları sergileyen, insan gibi davranması için eğitilmiş ve eğitiminden önyargı ve değerleri yeniden üreten bir makineyle konuştuğumuzu' her zaman aklında tutmalı " uyarısında bulundu.

Ricardo Segura EFE-Raporları tarafından.