Microsoft, yüksek lisans öğrencilerinin neden halüsinasyon gördüğünü ve cevaplar uydurduğunu açıklıyor

Bir kullanıcı ile bir Microsoft yöneticisi arasındaki son Twitter alışverişi, Bing gibi büyük dil modellerinin (LLM'ler) sınırlamalarına ve yalnızca kendi iç bilgilerine güvenildiğinde bilgi boşlukları potansiyeline yeniden dikkat çekti.

Tartışma, harici web verilerine erişen arama eklentisi devre dışı bırakıldığında Bing'de hatalı arama sonuçları bildiren bir kullanıcıdan kaynaklandı. Buna yanıt olarak Microsoft Reklamcılık ve Web Hizmetleri CEO'su Mikhail Parakhin, Yüksek Lisans'ların bu gibi durumlarda "bir şeyler uydurma" olasılığını kabul etti.

Web üzerinden erişilebilen geniş bilgiden mahrum kaldıklarında, LLM'lerin bazen yanıt üretmek için eğitim için kullanılan bir metin ve kod koleksiyonu olan kendi iç bilgi tabanlarına başvurabileceğini açıkladı. Ancak, bu dahili oluşturma her zaman doğru olmayabilir veya gerçek gerçeklikle uyumlu olmayabilir, bu da arama eklentisi etkinleştirildiğinde elde edilenlerle karşılaştırıldığında arama sonuçlarında olası farklılıklara yol açabilir.

Bana göre bu, özellikle harici veri kaynakları mevcut olmadığında, LLM destekli aramalarda şeffaflık ve doğruluk hakkında önemli soruları gündeme getiriyor. LLM'ler harici verilere erişmeden yanıtlar oluşturduğunda, kullanıcılara bilginin kaynağına ve olası sınırlamalara ilişkin net bir gösterge verilmelidir.

Yanıtlar sağlamak değerli olsa da, Yüksek Lisans'lar bilgi boşluklarını potansiyel olarak yanlış dahili nesillerle doldurmak yerine güvenilir bilgilere öncelik vermelidir. Belirsizliği belirtmek, daha fazla araştırma önermek veya yalnızca bir yanıtın mevcut olmadığını belirtmek gibi alternatif yaklaşımları keşfetmek, güveni artırabilir ve yanlış bilgilerin yayılmasını önleyebilir.

Bu nedenle, bunun nedeni hiç de şaşırtıcı değil insanlar Bing Chat/Copilot yerine ChatGPT'yi tercih ediyor.

Ve bu nedenlerden dolayı kişisel olarak Bard'ı kullanmayı tercih ediyorum çünkü Google, Bard'ın kullanıcılara bilgiye başka bir yerden referans verilip verilmediğini bilmesini sağlayan ve kullanıcıların bilgiye güvenmesini kolaylaştıran bir işlevsellik sunmuştur.