NYC devlet okulları ChatGPT’yi engellediği için OpenAI, ChatGPT tarafından oluşturulan metinleri tespit etmeye yardımcı olmak için ‘hafifletici önlemler’ üzerinde çalıştığını söylüyor • Tmzilla

New York City devlet okulları, okul ağları ve cihazlarında çeşitli konularda ve çeşitli stillerde metin üretebilen yapay zeka sistemi ChatGPT’ye erişimi kısıtladı. Bu sabah geniş çapta bildirildiği ve Tmzilla’a New York Şehri Eğitim Bakanlığı sözcüsü tarafından onaylandığı üzere, kısıtlama şu endişeler nedeniyle uygulandı: “[the] öğrencilerin öğrenmesi üzerindeki olumsuz etkiler” ve ChatGPT’nin ürettiği içeriğin “güvenliği ve doğruluğu”.

Sözcü e-posta yoluyla Tmzilla’a “Araç, sorulara hızlı ve kolay yanıtlar verebilirken, akademik ve yaşam boyu başarı için gerekli olan eleştirel düşünme ve problem çözme becerilerini geliştirmez” dedi. okullardan gelen talepler doğrultusunda erişim sağlandı.

Kendi başına bir yasak değil. New York şehri devlet okulu sistemi, aynı filtreyi aşağıdakiler için kullanıyor: ChatGPT okul mülkündeki diğer uygulamaları ve web sitelerini — örneğin YouTube ve Facebook — engellemek için kullandığını. Okullar, ChatGPT’nin engellemesinin kaldırılmasını talep edebilir ve sözcü, New York Şehri Eğitim Bakanlığı’nın, ChatGPT’nin arkasındaki girişim olan OpenAI ile aracın eğitime nasıl uyarlanabileceği hakkında bir konuşma yapma fırsatını “hoş karşılayacağını” söyledi.

OpenAI’ye gelince, yorum için ulaşıldığında, bir şirket sözcüsü, OpenAI’nin ChatGPT tarafından oluşturulan metni herkesin fark etmesine yardımcı olmak için “hafifletici önlemler” geliştirdiğini söyledi. Bu önemli. Tmzilla yakın zamanda OpenAI’nin yapay zeka tarafından oluşturulan metin için bir filigran tekniği denediğini bildirirken, OpenAI ilk kez özellikle ChatGPT’den gelen metni tanımlamaya yönelik araçlar üzerinde çalıştığını doğruladı.

“ChatGPT’yi, yetenekli, güvenli AI sistemleri geliştirmenin ve devreye almanın kritik bir parçası olduğuna inandığımız gerçek dünya kullanımından öğrenmek için bir araştırma ön izlemesi olarak kullanıma sunduk. OpenAI sözcüsü, sürekli olarak geri bildirimleri ve öğrenilen dersleri dahil ediyoruz” dedi. “Yapay zeka tarafından oluşturulan metnin kullanımı konusunda her zaman şeffaflık çağrısında bulunduk. Politikalarımız, kullanıcıların API’mizi ve yaratıcı araçlarımızı kullanırken hedef kitlelerine karşı açık sözlü olmalarını gerektirir… Yararlı çözümler ve öğretmenlerin ve öğrencilerin yapay zekadan faydalanmasına yardımcı olacak diğer yollar üzerinde eğitimcilerle birlikte çalışmayı dört gözle bekliyoruz.”

ChatGPT’nin şiirden kodlamaya kadar çeşitli konulardaki soruları yanıtlama yeteneği vardır, ancak en büyük kusurlarından biri, bazen kulağa inandırıcı gelen ancak gerçekte doğru olmayan yanıtlar verebilmesidir. Bu, Soru-Cevap kodlama sitesi Stack Overflow’un, ChatGPT’nin kullanıcıların platformu şüpheli yanıtlarla doldurmasını çok kolaylaştırdığını söyleyerek, kullanıcıların yapay zeka tarafından oluşturulan içeriği paylaşmalarını geçici olarak yasaklamasına yol açtı. Yakın zamanda, dünyanın en büyük yapay zeka ve makine öğrenimi konferanslarından biri olan Uluslararası Makine Öğrenimi Konferansı, “beklenmedik sonuçlar” korkusuyla ChatGPT ve diğer benzer yapay zeka sistemleri tarafından oluşturulan metinleri içeren makalelerin yasaklandığını duyurdu.

Eğitimde, tartışma büyük ölçüde kopya çekme potansiyeli etrafında dönüyor. “Okul makaleleri yazmak için ChatGPT” için bir Google araması yapın ve ev ödevlerini ve standartlaştırılmış kompozisyon testlerini tamamlamak için ChatGPT’yi kullanarak suları test eden birçok eğitimci, gazeteci ve öğrenci örneği bulacaksınız. Wall Street Journal köşe yazarı Joanna Stern, geçen bir AP İngilizce makalesi yazmak için ChatGPT’yi kullanırken, Forbes çalışanı Emma Whitford, iki üniversite makalesini 20 dakikada bitirmek için ona dokundu. The Guardian’a konuşan Arizona Eyalet Üniversitesi profesörü Dan Gillmor, ChatGPT’ye öğrencilerine verdiği ödevlerden birini nasıl verdiğini ve yapay zekanın makalesinin “iyi bir not” alacağını nasıl bulduğunu hatırladı.

İntihal başka bir endişe kaynağıdır. Diğer metin üreten AI sistemleri gibi, genellikle izin alınmadan toplanan herkese açık veriler üzerinde eğitilen ChatGPT, bazen bu bilgileri herhangi bir kaynak göstermeden kelimesi kelimesine tekrarlayabilir. Buna, daha önce ima edildiği gibi olgusal yanlışlıklar ve önyargılı – bariz bir şekilde ırkçı ve cinsiyetçi – bakış açıları dahildir. OpenAI, sorunlu metin oluşturmayı önlemek için filtreler ve teknikler sunmaya devam ediyor, ancak her gün yeni geçici çözümler ortaya çıkıyor.

Bu sınırlamalara ve sorunlara rağmen, bazı eğitimciler ChatGPT’de ve diğer üretken yapay zeka teknolojilerinde pedagojik potansiyel görüyor. Stanford’un Eğitim Enstitüsü web sitesinde yakın zamanda yayınlanan bir yazıda, Stanford’da eğitim profesörü olan Victor Lee, ChatGPT’nin öğrencilerin “şu anda düşünmedikleri şekillerde düşünmelerine” yardımcı olabileceğini, örneğin fikirlerini keşfetmelerine ve netleştirmelerine yardımcı olabileceğini belirtti. Temel içeriğin aynı kaldığı ancak stil, sözdizimi veya dilbilgisinin farklı olduğu bir anlatının öğrenciler için birçok örneğini oluşturarak öğretmenlerin de ChatGPT’den yararlanabileceğini öne sürüyor.

“ChatGPT olabilir [allow] öğrencilerin bu tür süreçlerin sıklıkla yol açtığı ıstırap veya hayal kırıklığı olmadan birçok kez okumaları, yansıtmaları ve gözden geçirmeleri, [while] Öğretmenler, aracı bir biçim veya türün birçok örneğini ve örneğini oluşturmanın bir yolu olarak kullanabilirler,” dedi Lee yaptığı açıklamada. “Açıkçası, öğretmenler bilgisayarın öğrenciler için çok fazla ayak işi yapmasından daha az memnun. Ve öğrencilerin hala yazmayı öğrenmeleri gerekiyor. Ama ne şekilde ve ne tür yazı? Bu yeni tıbbın bir yan etkisi, hepimizin bu soruları sormamızı ve muhtemelen eğitimimizin kapsayıcı hedeflerinde ve yöntemlerinde bazı önemli değişiklikler yapmamızı gerektirmesidir.

Her halükarda, ülkede türünün ilk örneği gibi görünen New York şehri devlet okulları politikası, kesinlikle başka yerlerdeki okul bölgelerindeki tartışmaları zorlayacaktır. Teknolojinin kullanımı arttıkça – ChatGPT’nin Aralık ayı itibarıyla bir milyondan fazla kullanıcısı vardı – bağımsız araştırmacılar ve şirketler, öğrenci gönderimlerinde yapay zeka tarafından oluşturulan metin kullanımını tespit etmek için pilot araçlar kullanmaya başladı. Bazı eğitimciler bunları kucaklamayı seçebilirken, Lee gibi diğerleri bunun yerine ChatGPT’nin yardımcı bir yazma aracı olarak kullanılmasını teşvik ediyor.