OpenAI'den Gençler İçin Güvenli ChatGPT Sürümü

OpenAI, gençlerin ruh sağlığı üzerindeki endişelerin arttığı bir dönemde, 13-17 yaş aralığındaki kullanıcılar için güvenli bir ChatGPT sürümü geliştirdi. Bu yeni sürüm, gençlerin yapay zeka ile güvenli bir şekilde etkileşim kurmasını sağlamak amacıyla tasarlandı ve çeşitli güvenlik önlemleri içeriyor. Uzmanlar, sosyal medya ve yapay zeka araçlarının gençler üzerindeki etkilerine dikkat çekiyor. Gençlerin ChatGPT’yi okul ödevlerinden sosyal etkileşimlerine kadar geniş bir yelpazede kullanmaları, hem fırsatlar hem de riskler barındırıyor. OpenAI, bu endişeleri dikkate alarak, gençler için daha güçlü varsayılan güvenlik ayarları uyguladı. Yeni sistem, intihar, kendine zarar verme, yeme bozuklukları ve şiddet gibi konularda müdahale edebiliyor. Ayrıca, romantik veya cinsel sohbetlerin engellenmesi ve sohbet robotunun duygulara sahip olduğu izlenimini yaratmasının önüne geçilmesi hedefleniyor. OpenAI Küresel Politikadan Sorumlu Başkan Yardımcısı Ann O’Leary, ChatGPT kullanan gençlerin dünya genelinde yaklaşık 10’da 9’unun platformu öğrenme ve beceri geliştirme amacıyla kullandığını belirtti. Yeni sürüm, mevcut “çalışma modu”nu güçlendirerek, öğrencilerin tez veya ana fikir geliştirmelerine yardımcı oluyor. Ancak, bu sistem doğrudan makale yazmıyor; matematik problemlerinde de çözüm sürecinde yönlendiriyor. Kısa yoldan ödev tamamlamaya çalışıldığında, “sorumlu ödev hatırlatıcıları” devreye giriyor ve bilgi pekiştirme için kısa sınavlar sunuluyor. Bu yaklaşım, gerçek öğrenmeyi desteklemeyi amaçlıyor. OpenAI, kullanıcıların yaşını tahmin etmek için yaklaşık 2 bin sinyale dayanan bir model kullanıyor. 13-17 yaş aralığını gösteren kullanıcılar otomatik olarak genç deneyimine yönlendiriliyor. Yanlış doğum tarihi girenler veya giriş yapmadan kullananlar da sistemin kapsamına alınıyor. Eğer bir yetişkin yanlışlıkla genç olarak değerlendirilirse, kullanıcı yaşını doğrulayarak itiraz edebiliyor. Bu yöntem, Instagram’daki genç hesaplarında Meta’nın uyguladığı sıkı sınırlamalara benziyor. ABD’de gençlerin yüzde 70’inden fazlası yapay zeka botlarına arkadaşlık için yöneliyor ve yarısı bunları düzenli kullanıyor. OpenAI CEO’su Sam Altman, gençler arasında duygusal sahiplenmenin yaygın olduğunu daha önce belirtmişti. Yeni sürümde, her 90 dakikada bir mola uyarısı veriliyor ve kullanıcılara karşılarındaki sistemin bir yapay zeka olduğu hatırlatılıyor. Ebeveynler, hesapları ilişkilendirerek “sessiz saatler” belirleyebiliyor ve yüksek riskli durumlarda bildirim alabiliyor. OpenAI Çocuk Gelişimi Birimi Başkanı Allison Mishkin, modelin duygusal ilişki kurmaya yol açabilecek ipuçlarını belirlediklerini ifade etti. O’Leary, ebeveyn denetimleri kullanılmasa bile güvenli bir ortam sağlamayı hedeflediklerini vurguladı. OpenAI’nin bu adımı, Meta’nın gençlerin ruh sağlığı üzerindeki etkisine dair karşılaştığı davalarla aynı döneme denk geliyor. Dört eyalet, Meta’dan 1,4 trilyon dolara kadar tazminat talep ediyor. Meta, suçlamaları reddediyor ve daha önce yeme bozuklukları ve kendine zarar verme içeriklerini engelleme gibi önlemler almıştı. OpenAI de benzer şekilde zararlı içerik filtreleme ve çevrimdışı destek odaklı bildirimler uyguluyor.