Common Sense Media tarafından çocuklar için güvensiz olarak işaretlenen birçok popüler yapay zeka ürünü - Dünyadan Güncel Teknoloji Haberleri

Common Sense Media tarafından çocuklar için güvensiz olarak işaretlenen birçok popüler yapay zeka ürünü - Dünyadan Güncel Teknoloji Haberleri

Common Sense Media Yapay Zeka Kıdemli Danışmanı Tracy Pizzo-Frey, “Yapay zeka her zaman doğru değildir ve değerler açısından tarafsız da değildir” dedi: derecelendirmelerin özetinde “Derecelendirmelerimizin daha fazla geliştiriciyi yanlış bilgilerin yayılmasını sınırlayan korumalar oluşturmaya ve gelecek nesilleri istenmeyen etkilerden korumak için üzerlerine düşeni yapmaya teşvik edeceğini umuyoruz Şaşırtıcı olmayan bir şekilde, ikinci kategori en kötü performansı gösterdi “Ürünün ne olduğunu, nasıl çalıştığını, etik risklerini, sınırlamalarını ve yanlış kullanımlarını öğrenerek kanun yapıcılar, eğitimciler ve genel halk, sorumlu yapay zekanın neye benzediğini anlayabilir Yine de şirketler bunları çocukların kullanımını göz önünde bulundurarak tasarladıkları için sorumlu yapay zeka uygulamalarını kullanma eğilimindeydiler ve adalete, çeşitli temsillere ve çocuk dostu tasarım hususlarına odaklandılar

Snap, My AI’nin isteğe bağlı bir araç olduğunu ve Snapchat’in bunun bir sohbet robotu olduğunu açıkça belirttiğini ve kullanıcılara sınırlamaları konusunda tavsiyelerde bulunduğunu belirterek, kötü incelemeyi geri çevirdi

Common Sense’in derecelendirmelerinin orta kademesinde Google’ınki gibi yapay zeka sohbet robotları vardı Ozan (daha dün resmi olarak gençlere açıldı), SohbetGPTVe Yürümeye Başlayan Yapay Zeka Diğerlerine göre daha az tanınırlar Ayrıca yanlış bilgi veya yapay zeka halüsinasyonları üretebilir ve stereotipleri güçlendirebilirler

Bu, Common Sense Media’nın bugünkü lansmanına yol açtı Ebeveynlerin %82’si, ChatGPT gibi yeni yapay zeka ürünlerinin çocukları için güvenli olup olmadığını değerlendirme konusunda yardım istediklerini söyledi (Yorum isteklerine hemen yanıt verilmedi Yeni değerlendirmeler geldi Sağduyu Medyasıailelere yönelik, kar amacı gütmeyen bir savunuculuk grubu )

İnternetteki herhangi bir yeni araç gibi, bu üretken yapay zeka modelleri de pornografik materyaller üretmek için kullanılıyor Hareket, böyle bir hizmete olan ilgilerini ölçmek amacıyla ebeveynler arasında yapılan bir anketle tetiklendi

İyi değerlendirmeler alan tek yapay zeka ürünleri şunlardı: Ello’nun Yapay zeka okuma öğretmeni ve kitap dağıtım hizmeti, Hanmingo (Khan Academy’den) ve Kyron Learning’in Yapay zeka öğretmeni — üçü de eğitim amaçlı tasarlanmış yapay zeka ürünleridir (Ve bazı çocukların iddia edebileceği gibi daha az eğlencelidir) ilk yapay zeka ürün derecelendirmeleri Bu konu bu hafta gündeme geldi 404Medya Civitai’nin yeteneklerine dikkat çekildi ancak sorumlu taraf (topluluk toplayıcıları veya yapay zeka modellerinin kendisi) konusundaki tartışma devam etti sonrasında Hacker News gibi sitelerde



genel-24

Diğer üretken AI modelleri gibi DALL-E Ve Kararlı Difüzyon diğer kaygıların yanı sıra kadınların ve kızların nesneleştirilmesi ve cinselleştirilmesi eğilimi ve toplumsal cinsiyet stereotiplerinin güçlendirilmesi gibi benzer risklere sahipti Şirket, TechCrunch’a yaptığı açıklamada, yapay zekamın aynı zamanda Aile Merkezine de entegre edildiğini, böylece ebeveynlerin gençlerin onunla sohbet edip etmediğini ve ne zaman sohbet ettiğini görebileceğini söyledi ancak şirketin, ürününü geliştirmeye devam ederken incelemenin sağladığı geri bildirimleri takdir ettiğini de ekledi ebeveynler için medya derecelendirmeleri çocuklarının tükettiği uygulamaları, oyunları, podcast’leri, TV şovlarını, filmleri ve kitapları değerlendirmek isteyenler Eğer hükümet yapay zekayı ‘çocuklardan korumayı’ başaramazsa, teknoloji şirketleri veri gizliliğimiz, refahımız ve genel olarak demokrasimiz pahasına bu düzenlenmemiş, serbest atmosferden yararlanacak” diye ekledi çeşitli yapay zeka ilkeleri, güven, çocukların güvenliği, mahremiyet, şeffaflık, hesap verebilirlik, öğrenme, adalet, sosyal bağlantılar ve insanlara ve topluma faydalar dahil

Common Sense Media’nın kurucusu ve CEO’su James P Ayrıca kuruluşun gizlilik endişelerini artırdığını söylediği kişisel kullanıcı verilerini de sakladı Gibi siteler Sarılma Yüz ve Civitai, yalnızca yeni görüntü modelleri bulmak için kaynak olarak değil, aynı zamanda birinin (ünlü gibi) benzerliğini kullanarak porno yapmak için birbirleriyle birleştirilebilecek farklı modeller bulmayı da kolaylaştırarak popüler hale geldi


Popüler yapay zeka araçlarının bağımsız bir incelemesi, Snapchat’in My AI, DALLE ve Stable Diffusion dahil olmak üzere pek çoğunun çocuklar için güvenli olmayabileceğini ortaya çıkardı Ayrıca veri gizliliği politikaları konusunda da daha şeffaftılar

Şirket ilk olarak Temmuz ayında, teknolojinin sorumlu yapay zeka uygulamalarından yararlanıp faydalanmadığı ve çocuklara uygunluğu da dahil olmak üzere, yapay zeka ürünlerini çeşitli boyutlarda değerlendirmek için bir derecelendirme sistemi oluşturmayı hedeflediğini duyurdu Bugün, bu reytingler yayına girdisohbet robotları, görüntü oluşturucular ve daha fazlası gibi yapay zeka ürünleri için “beslenme etiketleri” adı verilen ürünler sunuyor Ayrıca zaman zaman bazı uygunsuz yanıtların yanı sıra yanlışlıklar da sunar

Kuruluş ilk olarak öğrenme için kullanılanlar, Bard ve ChatGPT gibi yapay zeka sohbet robotlarının yanı sıra Snap’in My AI ve DALL-E gibi üretken yapay zeka ürünleri de dahil olmak üzere 10 popüler uygulamayı 5 puanlık bir ölçekte inceledi Değerlendirdiği ürünler genelindeki derecelendirmelerdir ”

TechCrunch’ın kendi testlerinde muhabir Amanda Silberling, Snapchat’in My AI üretken AI özelliklerinin aktif olarak zararlı olmaktan çok genellikle daha garip ve rastgele olma eğiliminde olduğunu buldu, ancak Common Sense Media AI sohbet robotuna 2 yıldız verdi, bunun yaş ayrımcılığı, cinsiyetçilik ve kültürel stereotipler etrafındaki haksız önyargıları güçlendiren bazı tepkiler ürettiğini belirtti Common Sense, yapay zekanın ürettiği yanlış bilgilerin kullanıcıların dünya görüşlerini şekillendirebileceği ve gerçeği kurgudan ayırmayı daha da zorlaştırabileceği konusunda uyardı “Tüm üretken yapay zeka, modellerin büyük miktarda internet verisi üzerinde eğitilmiş olması nedeniyle çok çeşitli kültürel, ırksal, sosyoekonomik, tarihsel ve cinsiyet önyargılarına ev sahipliği yapıyor – ve değerlendirmelerimizde de tam olarak bunu bulduk Steyer, yaptığı bir açıklamada, “Tüketiciler, tüm Amerikalıların, özellikle de çocukların ve gençlerin güvenliğini ve mahremiyetini tehlikeye atabilecek yapay zeka ürünleri için net bir beslenme etiketine erişebilmelidir” dedi

Common Sense Media, yeni AI ürünlerine ilişkin derecelendirmeleri ve incelemeleri sürekli olarak yayınlamaya devam edeceğini ve bunun yalnızca ebeveynleri ve aileleri değil aynı zamanda yasa yapıcıları ve düzenleyicileri de bilgilendirmeye yardımcı olacağını umduğunu söylüyor Yalnızca %40’ı bu kararları vermelerine yardımcı olacak güvenilir kaynaklar bildiğini söyledi Kuruluş, özellikle “farklı geçmişlere ve lehçelere” sahip kullanıcılar için bu botlarda da önyargı oluşabileceği konusunda uyardı Bu yılın başlarında şirket, yakında ailelere yönelik kaynaklarına yapay zeka ürünlerine yönelik derecelendirmeleri de ekleyeceğini açıklamıştı dedi