Bu Microsoft anlaşması özel değil, video geliyor ve OpenAI CEO’su Sam Altman’dan daha fazlası • Tmzilla

OpenAI kurucu ortağı ve CEO’su Sam Altman, geçen hafta sonlarında bu editörle geniş kapsamlı bir röportaj için oturdu ve en iddialı kişisel yatırımlarından bazılarının yanı sıra OpenAI’nin geleceği hakkında soruları yanıtladı.

Tartışılacak çok şey vardı. Şimdi sekiz yaşında olan ekip, soruları bir insan gibi yanıtlayan bir sohbet robotu olan ChatGPT’yi piyasaya sürmesinden bu yana iki ay içinde ulusal sohbete hakim oldu. OpenAI ürünleri kullanıcıları şaşırtmakla kalmadı; şirketin, nispeten nominal gelirine rağmen mevcut hisselerin yeni yatırımcılara 29 milyar $ değerinde satışını denetlemek için görüşmelerde bulunduğu bildiriliyor. Bu arada endişeli eğitimciler, öğrencilerin kopya çekmek için kullanacağı korkusuyla ChatGPT’ye erişimi giderek daha fazla engelliyor.

Altman, şirketin mevcut iş anlaşmaları hakkında konuşmayı reddetti ve görüşmemiz sırasında ilgili bir soru sorulduğunda bir uyarı ateşi açtı.

Bununla birlikte, şirketin ileriye dönük planları hakkında biraz bilgi verdi. Her şeyden önce, Altman, ChatGPT ve ekibin popüler dijital sanat oluşturucusu DALL-E’ye ek olarak bir video modelinin de geleceğini doğruladı, ancak “ne zaman konusunda yetkin bir tahminde bulunmak istemeyeceğini” ekledi. “çok yakında olabilir; meşru bir araştırma projesi. Biraz zaman alabilir.

Altman, OpenAI’nin Microsoft ile gelişmekte olan ortaklığının – ilk olarak 2019’da OpenA’ya yatırım yapan ve bugün erken saatlerde ChatGPT gibi AI araçlarını tüm ürünlerine dahil etmeyi planladığını doğruladı – özel bir anlaşma olmadığını açıkça belirtti.

Ayrıca Altman, OpenAI’nin teknolojisini diğer şirketlere lisanslamanın yanı sıra kendi yazılım ürünlerini ve hizmetlerini oluşturabileceğini doğruladı. Bu, OpenAI’nin bir gün kendi arama motoru aracılığıyla doğrudan Google ile rekabet edip edemeyeceğini merak eden sektör gözlemcileri için dikkate değer. (Bu senaryo hakkında sorulan Altman, “Ne zaman birileri bir teknolojinin başka dev bir şirketin sonu olacağından söz etse, bu genellikle yanlıştır. İnsanlar burada bir karşı hamle yapacaklarını unutuyorlar ve oldukça akıllı, oldukça yetenekliler.) ”)

OpenAI, ChatGPT’nin temel aldığı gelişmiş dil modeli olan GPT’nin dördüncü sürümünü ne zaman piyasaya sürmeyi planladığına gelince, Altman yalnızca merakla beklenen ürünün “yapabileceğimizden emin olduğumuz bir noktada çıkacağını” söyleyecektir. [release] güvenli ve sorumlu bir şekilde.” o da OpenAI’nin sorunları çözen ve kalıpları deneme yoluyla tanımlayan mevcut derin öğrenme modellerine karşı yapay genel zeka veya kendi gelişmekte olan zekasına sahip bir teknoloji anlamına gelen “gerçek bir AGI’miz yok” diyerek GPT-4 ile ilgili beklentileri yumuşatmaya çalıştı. ve hata.

“Bence [AGI] bizden beklenen bir nevi” ve GPT-4’ün bu beklentiye sahip insanları “hayal kırıklığına uğratacağını” söyledi.

bu arada sormuş ne zaman Altman yapay genel zekayı görmeyi bekliyor, bunun tahmin edilebileceğinden daha yakın olduğunu ama aynı zamanda “AGI”ye geçişin bazılarının beklediği kadar ani olmayacağını öne sürdü. “Ne kadar yakınlaşırsak [to AGI]yanıtlamam ne kadar zorsa, çünkü bunun insanların düşündüğünden çok daha bulanık ve çok daha kademeli bir geçiş olacağını düşünüyorum” dedi.

Doğal olarak, işleri toparlamadan önce, OpenAI’nin dünyaya saldığı teknoloji için toplumun yeterli korkuluklara sahip olup olmadığı da dahil olmak üzere güvenlik hakkında konuşmaya zaman ayırdık. (Pek çok eleştirmen bizim inanmadığımıza inanıyor. Bildirildiğine göre Google, “itibar riski” konusundaki endişeler nedeniyle kendi yapay zeka sohbet robotu LaMDA’yı yayınlama konusunda isteksiz davranıyor.)

Altman, burada OpenAI’nin “bir şeyleri kırmaya ve etkileri incelemeye çalıştığımız bir iç sürece sahip olduğunu” söyledi. Dış denetçiler kullanıyoruz. Harici kırmızı takım oyuncularımız var. Diğer laboratuvarlarla çalışıyoruz ve güvenlik kuruluşlarının bir şeylere bakmasını sağlıyoruz.”

Aynı zamanda, teknolojinin – OpenAI ve başka yerlerden – geldiğini ve insanların bununla nasıl yaşayacaklarını bulmaya başlaması gerektiğini söyledi. “ChatGPT’nin neden olacağı veya neden olacağı toplumsal değişiklikler var. Şu anda devam eden büyük bir tanesi, eğitim ve akademik bütünlük üzerindeki etkisi, hepsi bu. Yine de, “bunları başlatmak [product releases] şimdi [makes sense]toplumun güncelleme yapması için zaman olmadan tüm endüstrinin birkaç yıl içinde sahip olacağını ortaya koymak yerine, risklerin hala nispeten düşük olduğu yer.

Aslında, eğitimciler – ve belki de ebeveynler – cinin şişeye geri koyulmadığını anlamalıdır. Altman, OpenAI ve diğer AI ekiplerinin, öğrencilerin AI tarafından oluşturulan kopyayı kendilerininmiş gibi dağıtmaya çalışıp çalışmadıklarını değerlendirmeye yardımcı olmak için filigran teknolojileri ve diğer doğrulama teknikleriyle “deney yapacaklarını” söylerken, aynı zamanda bu belirli senaryoya çok fazla odaklanmanın yanlış olduğunu da ima etti. beyhude. “Öğretmenlerin GPT benzeri bir sistemin çıktısını algılama olasılığının biraz daha yüksek olmasına yardımcı olabileceğimiz yollar olabilir, ancak dürüst olmak gerekirse, kararlı bir kişi onları atlatacaktır ve bunun toplumun yapabileceği bir şey olacağını düşünmüyorum. veya uzun vadeye güvenmeli.”

İnsanların büyük değişimlere başarılı bir şekilde uyum sağlamaları ilk kez olmayacak, diye ekledi. “Matematik derslerinde test ettiğimiz şeyi değiştiren” hesap makinelerine ve gerçekleri ezberleme ihtiyacını çok daha az önemli hale getiren Google’a işaret eden Altman, derin öğrenme modellerinin her iki gelişmenin de “daha aşırı bir versiyonunu” temsil ettiğini gözlemledi. Ancak, “faydaların da daha aşırı olduğunu” savundu. Bunun ev ödevi üzerindeki etkisi konusunda anlaşılır bir şekilde çok gergin olan öğretmenlerden haber alıyoruz. Ayrıca ‘Vay canına, bu her çocuk için inanılmaz bir kişisel öğretmen’ diyen öğretmenlerden çok şey duyuyoruz.”

OpenAI ve Altman’ın yapay zekanın metalaşması, düzenlemeler ve yapay zekanın neden beş ila yedi yıl önce hayal ettiği gibi “tamamen ters yönde” gittiğine dair gelişen görüşleri hakkında tam konuşma için aşağıdaki klibe göz atmaya değer.

Yapay zekanın vaatleri ve tehlikeleri söz konusu olduğunda Altman’ın en iyi ve en kötü senaryoları ele aldığını da duyacaksınız.

Kısa versiyon? “İyi durum o kadar inanılmaz derecede iyi ki, bunun hakkında konuşmaya başlamak için gerçekten deli biri gibi konuşuyorsun,” demişti. “Ve kötü durum – ve bence bunu söylemek önemli – hepimiz için ışıkların sönmesi.”