Metin mesajlaşma

Kredi: Pixabay/CC0 Kamu Malı

Yapay zeka, kulağa o kadar insani gelen metinler oluşturabilecek bir noktaya ulaştı ki, çoğu insanı, başka biri tarafından yazıldığını sanarak kandırıyor. Otoregresif modeller olarak adlandırılanlara dayanan bu yapay zeka programları, sahte siyasi haberlerden yapay zeka ile yazılmış blog gönderilerine kadar her şeyi oluşturmak ve kasıtlı olarak yaymak için başarıyla kullanılıyor.

Bununla birlikte, bir Ph.D. olan Chu-Cheng Lin’in araştırmasına göre, otoregresif modeller çoğu insanı başarılı bir şekilde kandırabilse de, yetenekleri her zaman sınırlı olacaktır. Whiting Mühendislik Okulu Bilgisayar Bilimleri Bölümü’nde aday.

Dil ve Konuşma İşleme Merkezi’nin bir üyesi olan Lin, “Çalışmamız, zekanın bazı istenen niteliklerinin – örneğin, hatasız tutarlı argümanlar oluşturma yeteneğinin – hiçbir zaman makul büyüklükte, makul derecede hızlı otoregresif bir modelle ortaya çıkmayacağını ortaya koyuyor” dedi. .

Lin’in araştırması, otoregresif modellerin, önceki kelimeleri kullanarak bir sonraki kelimeyi çok hızlı bir şekilde tahmin etmek için tasarlandıkları için akıl yürütmeyi kullanamayan doğrusal bir düşünce sürecine sahip olduğunu gösterdi. Bu bir sorundur çünkü modeller, insanların bir şeyler yazarken yaptıkları gibi geriye doğru izlemek, düzenlemek veya işlerini değiştirmek için oluşturulmamıştır.

“[Human] her alanda profesyoneller bunu yapıyor. Nihai ürün kusursuz bir çalışma sergileyebilir, ancak çalışmanın burada ve orada düzenleme yapılmadan tek geçişte yapılmamış olması da muhtemeldir” dedi. “Ama bunları eğittiğimizde [AI] Modeller insan yazısını taklit ederek, modeller son versiyondan önce meydana gelen çoklu yeniden yazmaları gözlemlemez.”

Lin’in ekibi ayrıca mevcut otoregresif modellerin başka bir zayıflığı olduğunu da gösterdi: Bilgisayara bir sonraki kelimeden sonra ne söyleyeceğini “düşünmek” için yeterli zaman vermiyorlar, bu yüzden söylediklerinin saçma olmayacağının garantisi yok.

“Otoregresif modeller, belirli senaryolarda çok faydalı olduklarını kanıtladılar, ancak akıl yürütme için uygun hesaplama modelleri değiller. Ayrıca, yaptığımız tek şey makinelerin nasıl olduğunu taklit etmeye çalışmaksa, sonuçlarımızın belirli zeka unsurlarının ortaya çıkmadığını öne sürmesini ilginç buluyorum. insan konuşur” dedi.

Sonuç olarak, otoregresif modeller ne kadar çok metin üretirse, hataları o kadar bariz hale gelir ve metni, yazılanları ayırt etmede etkili olmak için daha az kaynak gerektiren daha az gelişmiş bilgisayar programları, hatta daha az gelişmiş bilgisayar programları tarafından işaretlenme veya başkaları tarafından fark edilme riskine sokar. otoregresif modeller ve bir insan tarafından yazılanlar.

Bilgisayar programları, otoregresif bir model tarafından yazılanları ve bir insan tarafından yazılanları deşifre edebildiğinden, Lin, akıl yürütmeyi kullanabilen AI’ya sahip olmanın pozitiflerinin, negatiflerden çok daha ağır bastığına inanıyor, olumsuz bir şey yanlış bilginin yayılması olabilir. “Metin özetleme” adı verilen bir sürecin, akıl yürütmeyi kullanabilen AI’nın nasıl yararlı olacağına dair bir örnek sağladığını söylüyor.

“Bu görevler, bir bilgisayarın uzun bir makaleyi veya sayıları ve metinleri içeren bir tabloyu okumasını sağlar ve ardından bilgisayar, neler olup bittiğini birkaç cümleyle açıklayabilir. Örneğin, bir haber makalesini veya bir restoranın Yelp’teki derecelendirmelerini kullanarak, birkaç cümle,” dedi Lin. “Akıl yürütme yeteneğine sahip modeller, daha yerinde ve olgusal olarak daha doğru olan metinler üretebilir.”

Lin, tezinin bir parçası olan bu araştırma üzerinde danışmanı Profesör Jason Eisner ile birkaç yıldır çalışıyor. Bu bulguları, “AI’nın kelimelerin anlamlarını daha etkili bir şekilde anlamasına yardımcı olmak için Sinirsel Düzenli İfadeler” adlı tez araştırması için bir sinir ağı mimarisi tasarlamaya yardımcı olmak için kullanmayı umuyor.

“Pek çok şey arasında, NRE’ler, makinelerin insanlar tarafından önceden tanımlanmış bir kural kümesini kullanarak, niyet gibi gözlemlenmeyen şeyleri insanlarla konuşmasından çıkarabildiği bir diyalog sistemi oluşturmak için kullanılabilir. Bu gözlemlenmeyen şeyler daha sonra makinenin tepkisini şekillendirmek için kullanılabilir. ,” dedi Lin.


Yapay zeka, beynin dili nasıl işlediğine ışık tutuyor


Johns Hopkins Üniversitesi tarafından sağlanmıştır

Alıntı: 23 Kasım 2021’de https://techxplore.com/news/2021-11-limitations-ai-generated-text.html adresinden alınan AI tarafından oluşturulan metnin (2021, 23 Kasım) sınırlamaları

Bu belge telif haklarına tabidir. Özel çalışma veya araştırma amaçlı herhangi bir adil işlem dışında, yazılı izin alınmadan hiçbir bölüm çoğaltılamaz. İçerik yalnızca bilgi amaçlı sağlanmıştır.





#tarafından #oluşturulan #metnin #sınırlamaları