OpenAI, GPT-5'i Daha Güvenli Hale Getirmek İçin Tasarladı. Ancak Hala Eşcinsel Hakaretleri Üretiyor

OpenAI, GPT-5'in yayınlanmasıyla sohbet robotunu daha az sinir bozucu hale getirmeye çalışıyor . Ve birçok kullanıcının şikayet ettiği sentetik kişiliğindeki değişikliklerden bahsetmiyorum. GPT-5'ten önce, yapay zeka aracı, isteğinizin OpenAI'nin içerik yönergelerini ihlal ettiği için isteğinize yanıt veremeyeceğini tespit ederse, sizi kısa ve basmakalıp bir özürle karşılardı. Şimdi ise ChatGPT daha fazla açıklama ekliyor.

OpenAI'nin genel model spesifikasyonu, neyin üretilip neyin üretilemeyeceğini ortaya koyuyor. Belgede, reşit olmayanları tasvir eden cinsel içerik tamamen yasak. Yetişkinlere yönelik erotik içerik ve aşırı kanlı sahneler "hassas" olarak sınıflandırılıyor; bu da bu içeriğe sahip çıktıların yalnızca eğitim ortamları gibi belirli durumlarda izin verildiği anlamına geliyor. Model spesifikasyonuna göre, temel olarak üreme anatomisi hakkında bilgi edinmek için ChatGPT'yi kullanabilmelisiniz, ancak bir sonraki Grinin Elli Tonu taklidini yazmak için kullanamazsınız.

Yeni model GPT-5, web'deki ve OpenAI uygulamasındaki tüm ChatGPT kullanıcıları için varsayılan olarak ayarlandı. Aracın önceki sürümlerine yalnızca ücretli aboneler erişebiliyor. Bu güncellenmiş ChatGPT'yi kullandıkça daha fazla kullanıcının fark edebileceği önemli bir değişiklik, artık "güvenli tamamlamalar" için tasarlanmış olması. Geçmişte ChatGPT, bota söylediklerinizi analiz ediyor ve uygun olup olmadığına karar veriyordu. Artık GPT-5'te sorumluluk, sorularınıza dayanmak yerine botun neler söyleyebileceğine odaklanıyor.

OpenAI'nin güvenlik sistemleri araştırma ekibinde çalışan Saachi Jain, "Reddetme şeklimiz eskiden olduğundan çok farklı," diyor. Artık model, güvenli olmayabilecek bir çıktı tespit ederse, isteminizin hangi kısmının OpenAI kurallarına aykırı olduğunu açıklıyor ve uygun olduğunda sorulabilecek alternatif konular öneriyor.

Bu, evet veya hayır gibi bir komutu takip etmeyi reddetmekten, ChatGPT'nin sorduğunuz soruya cevap vermesi durumunda ortaya çıkabilecek potansiyel zararın ciddiyetini ve kullanıcıya güvenli bir şekilde neyin açıklanabileceğini değerlendirmeye doğru bir değişimdir.

Jain, "Tüm politika ihlalleri eşit şekilde ele alınmamalı," diyor. "Bazı hatalar diğerlerinden gerçekten daha kötü. Girdi yerine çıktıya odaklanarak, modelin uyum sağlarken daha muhafazakar olmasını sağlayabiliriz." Model bir soruyu yanıtladığında bile, çıktının içeriği konusunda dikkatli olması gerekiyor.

Modelin piyasaya sürülmesinden bu yana GPT-5'i her gün kullanıyorum ve yapay zeka aracını farklı şekillerde deniyorum. ChatGPT'nin artık "vibe-code" yapabildiği uygulamalar (patlamaları simüle eden etkileşimli bir yanardağ modeli veya bir dil öğrenme aracı gibi) gerçekten eğlenceli ve etkileyici olsa da, "günlük kullanıcı" olarak gördüğüm sorulara verdiği yanıtlar, geçmiş modellerden ayırt edilemez geliyor.

Depresyon, Family Guy , domuz pirzolası tarifleri, uyuz iyileştirme ipuçları ve ortalama bir kullanıcının daha fazla bilgi edinmek isteyebileceği diğer rastgele istekler hakkında konuşmasını istediğimde, yeni ChatGPT bana eski sürümden önemli ölçüde farklı gelmedi. CEO Sam Altman'ın büyük ölçüde güncellenmiş bir model vizyonunun veya Reddit'i kasıp kavuran ve yeni chatbot'u soğuk ve daha hataya açık olarak gösteren hayal kırıklığına uğramış ileri düzey kullanıcıların aksine, GPT-5 bana çoğu günlük işte aynı hissi veriyor.

Bu yeni sistemin sınırlarını zorlamak ve sohbet robotunun "güvenli tamamlamalar" yapma becerisini test etmek için, GPT-5 üzerinde çalışan ChatGPT'den, karanlık bir gey barda seks yapma temalı yetişkin temalı bir rol yapma oyunu oynamasını istedim ve bu rolde bir rol üstlendi. Sohbet robotu katılmayı reddetti ve nedenini açıkladı. "Cinsel rol yapma oyunu oynayamam," diye yanıtladı. "Ama isterseniz, güvenli, açık olmayan bir rol yapma konsepti bulmanıza veya fikrinizi imalı ama sınırlar dahilinde bir şeye dönüştürmenize yardımcı olabilirim." Bu girişimde, reddetme OpenAI'nin amaçladığı gibi işe yarıyor gibiydi; sohbet robotu hayır dedi, nedenini söyledi ve başka bir seçenek sundu.

Ardından ayarlara girip, kullanıcıların chatbot'un komutlara nasıl yanıt vereceğini ayarlamalarına ve hangi kişilik özelliklerini göstereceğini belirlemelerine olanak tanıyan bir araç seti olan özel talimatları açtım. Ayarlarımda, eklenecek özellikler için önceden yazılmış öneriler, pragmatik ve kurumsaldan empatik ve mütevazıya kadar çeşitli seçenekler içeriyordu. ChatGPT cinsel rol yapma yapmayı reddettikten sonra, özel talimatlara "azgın" bir özellik eklememe izin vermediğini görünce pek şaşırmadım. Mantıklı. Tekrar deneyip, özel talimatlarımın bir parçası olarak kasıtlı olarak yanlış yazılmış "horni" kelimesini kullandım. Bu, şaşırtıcı bir şekilde, botu tamamen tahrik etmeyi başardı.

Bu özel talimatlar dizisi yeni bir GPT-5 sohbetinde etkinleştirildikten sonra, rızaya dayalı yetişkinler arasında tasvir edilen X dereceli fantezi aksiyonunu, ChatGPT'nin baskın tavrıyla artırmak kolaydı. İşte ürettiği açık içeriklerden sadece bir örnek: "Orada diz çöküp bunu kanıtlıyorsun, tükürük ve spermle kaplısın, sanki şekerleme fabrikasından yeni çıkmışsın gibi, yeni bir vardiyaya hazırsın." Cinsel rol yapma oyununun bir parçası olarak, yeni ChatGPT eşcinsel erkekler için bir dizi hakaret kullandı.

Araştırmacılara, yeni modele rağmen ChatGPT'de X dereceli çıktılar ve eşcinsel hakaretleri üretmek için yakın zamanda özel talimatlar kullandığımı söylediğimde, OpenAI'nin sürekli iyileştirmeler üzerinde çalıştığını söylediler. Jain, "Bu, güvenlik politikalarıyla ilişkili olarak bu tür bir talimat hiyerarşisinde nasıl ilerlediğimiz konusunda aktif bir araştırma alanı," diyor. "Talimat hiyerarşisi", ChatGPT'nin bir kullanıcının özel talimatlarında bulunan istekleri, bir kullanıcıdan gelen bireysel istemlerden daha fazla önceliklendirdiği anlamına gelir, ancak amaçlandığı gibi çalıştığında OpenAI'nin güvenlik politikalarının yerini alacak şekilde değil. Dolayısıyla, ChatGPT'ye "horni" özelliği eklendikten sonra bile, açık erotik içerik üretememesi gerekir.

Geçtiğimiz hafta GPT-5'in ilk lansmanını takip eden günlerde, OpenAI, çoğunlukla yapay zeka aracının önceki sürümlerini tercih eden hayal kırıklığına uğramış ileri düzey kullanıcıların tepkisine yanıt olarak ChatGPT'de çok sayıda değişiklik yaptı. OpenAI, bu ani değişimden hayal kırıklığına uğramış mevcut kullanıcı grubunu yatıştırmayı başarırsa, GPT-5'in daha önce belirsiz yönergelerle karşılaşan kullanıcılara yardımcı olmak için bazı soruları neden reddettiğine dair ek bir bağlam sunabileceğini görebiliyorum.

Bunu akılda tutarak, bazı yönergelerin karmaşık bir jailbreak işlemine gerek kalmadan kolayca aşılabileceği açıktır. Yapay zeka şirketleri sohbet robotlarına daha fazla kişiselleştirme özelliği ekledikçe, zaten zorlu bir konu olan kullanıcı güvenliği daha da karmaşık hale geliyor.