LogicLens, makale ve paylaşımlarda yanlış bilgi ile mantık hatası arayan AI aracını tanıttı: Chrome eklentisi ve iOS'ta Receipts uygulaması

AI ile üretilen yanıltıcı içeriğe karşı yine AI kullanan bir araç gündemde. The Register'ın 13 Kasım'da aktardığına göre LogicLens, okunan makaleleri, sosyal medya paylaşımlarını ve videoları hem olgu hataları hem de hatalı akıl yürütme açısından tarıyor. Araç Chrome'da tarayıcı eklentisi olarak, iOS'ta ise Receipts adlı uygulama olarak çalışıyor.

Ne yapıyor?

Habere göre araç yalnızca "doğru mu, yanlış mı" sorusuna bakmıyor. Şirketin anlatımına göre:

• İçerikteki mantık hatalarını (logical fallacy) işaretliyor.
• Bir bilgiyi çarpıtarak aktaran haberleri ve bir konuyu kutuplaştırmaya çalışan içeriği belirlemeye çalışıyor.
• Bulgularını kaynak göstererek sunuyor.

Chrome'da eklenti simgesine tıklamak yeterli; iOS'ta Receipts paylaşım menüsünde bir seçenek olarak çıkıyor. Tarama bitince olası olgu ve mantık tutarsızlıkları kullanıcının incelemesi için listeleniyor. Şirket "doğrunun hakemi" olmaya çalışmadığını, bağlamı ortaya koyup kararı okura bıraktığını söylüyor.

Bilinmeyenler

• LogicLens, kamuya açık belgelerinde hizmetin arkasındaki AI modellerini açıklamıyor.
• Şirket, sisteminin "araştırmaya dayalı" olduğunu ve ChatGPT gibi genel modellerden, hatta eğitimli uzmanlardan daha iyi sonuç verdiğini öne sürüyor. Bu, üreticinin kendi iddiası; haberde bağımsız bir ölçüm ya da benchmark yer almıyor.
• Aracın Türkçe içerikte çalışıp çalışmadığına dair haberde bilgi yok.

Fiyat ve erişim

Araç ücretsiz, ancak kayıt gerektiriyor. Ücretsiz kullanıcılar günde 15, ayda 100 analizle sınırlı. Aylık 4,99 dolarlık abonelik bu sınırları kaldırıyor.

Neden önemli?

Haber, AI ile üretilen yanlış bilginin insan yazımı içerikten daha ikna edici bulunduğunu gösteren 2024 tarihli bir çalışmayı hatırlatıyor. Bu ortamda "doğrulamayı da AI yapsın" fikri cazip. Yine de bir doğrulama aracı, denetlediği içerikle aynı teknolojiye dayanıyor ve aynı tür hataları yapabilir. Hangi modelin kullanıldığı ve doğruluk oranı bilinmeden aracın çıktısı bir hüküm değil, bir ikinci görüş olarak okunmalı.

Güvenlik açısından ayrı bir nokta daha var: bu tür bir tarayıcı eklentisi, işini yapabilmek için açık olan sayfanın içeriğini okur. Bu, kurumsal ortamda eklentinin hangi sayfalarda çalıştığının ve içeriğin nereye gönderildiğinin bilinmesini gerektirir.

Kimin işine yarar / ne yapabilirsiniz?

1. Bireysel kullanıcılar aracı, paylaşmadan önce bir içeriği sınamak için deneyebilir; işaretlenen noktaları gösterilen kaynaktan kendiniz kontrol edin.
2. Kurumlarda eklentiyi kurmadan önce gizlilik politikasını ve istediği izinleri okuyun; iç uygulamaların ve müşteri verisi içeren sayfaların açıldığı tarayıcı profillerinde kullanmayın.
3. BT ekipleri tarayıcı eklentisi izin listesini (allowlist) gözden geçirsin; sayfa içeriğini okuyan AI eklentileri için ayrı bir onay adımı tanımlayın.
4. Aracın "doğru" ya da "yanlış" demesini tek başına kanıt saymayın; önemli kararlarda birincil kaynağa gidin.