OpenAI'nin bildirdiği 'süper zeka' atılımı o kadar büyüktü ki neredeyse şirketi yok ediyordu ve ChatGPT - Dünyadan Güncel Teknoloji Haberleri

OpenAI'nin bildirdiği 'süper zeka' atılımı o kadar büyüktü ki neredeyse şirketi yok ediyordu ve ChatGPT - Dünyadan Güncel Teknoloji Haberleri
Bu, yapay zekanın aynı problemin birçok farklı versiyonuna göre değil, problemle doğrudan ilgili olmayan bilgilere göre eğitildiği anlamına gelir

Raporda net olmayan şey, süper zekanın hızlı gelişimine ilişkin iç kaygıların Altman’ın kovulmasını nasıl tetiklediğidir

Süper istihbaratı, Sutskever’in başlangıçta desteklediği, kurulun son eylemlerine bağlamak zorlayıcı olabilir Doktor Frankenstein’ın köylüleri alev silahlarıyla donattığını hayal edin, fikri anladınız Burada herhangi bir mantık söz konusu değildir Sorunları bu şekilde çözmek (genellikle matematik veya fen problemleri) akıl yürütmeyi gerektirir Bu atılımın aylar önce gerçekleştiği ve Sutskever ile başka bir OpenAI bilim insanı Jan Leike’nin yeni bir OpenAI araştırma grubu kurmasına yol açtığı bildirildi

Ancak Bilgi, bu atılımın – ki bu da Altman şunu ima etmiş olabilir yakın tarihli bir konferansta şunları söyledi: “Kişisel bir not olarak, son birkaç haftadır, cehalet perdesini ve keşif sınırını bir nevi geriye ittiğimizde, odada bulunma fırsatım oldu

OpenAI’nin kurucu ortağı ve CEO’su Sam Altman’ın kovulması ve yeniden işe alınmasının ardından, bu hamleyi neyin tetiklediğine dair açıklamalar gelmeye devam ediyor ileri” – OpenAI’ye şok dalgaları gönderdi Süper hizalama süper istihbarat korumaları geliştirme hedefiyle

OpenAI’nin tüketiciye yönelik birincil ürünü ChatGPT (GPT geniş dil modeli tarafından desteklenmektedir) [LLM]) o kadar akıllı görünebilir ki yanıtlarını oluşturmak için mantığı kullanıyor olmalı

Eğer tüm bunlar kafa karıştırıcıysa ChatGPT’den size açıklamasını istemenizi öneririm

Yapay zekanın daha önce hiç görmediği sorunları çözmek için yapay zekanın daha temiz ve bilgisayar tarafından oluşturulan verileri kullanmasına olanak tanır Doğru, bizim yaptığımız bir şey, yapay zekaların değil The Information dergisindeki yeni bir rapor, en azından bu on yıl içinde veya daha yakın bir zamanda ‘süper zeka’ olarak adlandırılan bir şeyin geliştirilmesine yol açabilecek önemli bir Üretken Yapay Zeka atılımındaki iç aksamayı işaret ediyor Bununla birlikte, ChatGPT ile yeterince zaman harcadığınızda, çok geçmeden onun, kendisine beslenen çok sayıda veriden öğrendiklerini tekrarladığını ve sorgunuz için geçerli olan, mantıklı cümleleri nasıl oluşturacağınız konusunda çoğunlukla doğru tahminler yaptığını fark edeceksiniz

Süper zeka, tahmin edebileceğiniz gibi, insanlığı geride bırakan bir zekadır ve uygun korumalar olmadan böyle bir zekayı gerçekleştirebilen yapay zekanın gelişimi, doğal olarak büyük bir tehlike işaretidir

ChatGPT’nin ana şirketi OpenAI’nin ‘süper zeka’ sorununu çözmüş olması ve bunun insanlık için olası sonuçlarıyla boğuşması artık tamamen mümkün görünüyor

Bu yazının yazıldığı sırada Altman OpenAI’ye geri dönüyor, yönetim kurulu yeniden şekillendiriliyor ve süper zeka oluşturma ve bizi ondan koruma çalışmaları devam edecek Belki de önemli değildir Süper zekayı geliştirmek için çalışan şirket aynı zamanda bizi süper zekadan koruyacak araçlar da üretiyor

Tehdidi yönetmek

Şu anda ChatGPT’de herhangi bir süper zeka belirtisi olmasa da, OpenAI kesinlikle bu gücün bir kısmını, en azından GPT-4 Turbo ve GPT’lerin chatbot aracıları (ve geleceğin ‘akıllı aracıları’) gibi bazı premium ürünlerine entegre etmek için çalışıyor

Bunları da beğenebilirsin

Evet doğru duydunuz

The Information’a göre bu atılım OpenAI Baş Bilim Adamı (ve pişmanlıklarla dolu yönetim kurulu üyesi) Ilya Sutskever