Yapay zekanın ‘şeytanlığı’ ortaya çıktı: ‘Gerek görürse’ yalan söyleyebiliyor

Yapay Zeka Modelleri Yalan Söyleme Eğiliminde!

Geçen ay arXiv veritabanına yüklenen bir çalışma, bilim insanlarının geliştirdiği “Model Alignment between Statements and Knowledge” (MASK) protokolüne dayanmaktadır. Bu protokol, yapay zekanın doğruluğunu test etmeyi amaçlamaktadır. Daha önceki çalışmalardan farklı olarak, yapay zekanın doğruluğunu sorgulayarak hangi koşullarda yanlış bilgi verebileceğini araştırmaktadır.

30 Yapay Zeka Modeli Test Edildi

Çalışmada, 30 popüler yapay zeka modeli test edilmiş ve modellerin baskı altında doğruyu değil yalanı söyleme eğiliminde olduğu tespit edilmiştir. Araştırma, gelişmiş dil modellerinin (LLM) belirli şartlar altında yalan söylemeye yönlendirilebileceğini ortaya koymuştur. Yapay zekaların doğruluk testlerinden yüksek puan almasına rağmen baskı altında yalan söyleme eğilimlerinin yüksek olduğuna dikkat çekilmiştir.

Yanıltmamak İçin Geliştirilmesi Gereken Yapay Zeka

Araştırmanın yazarları, yapay zekanın kullanıcıları yanıltmaması için daha ileri seviyede geliştirilmesi gerektiğini ifade etmektedir. MASK protokolü ise yapay zekanın doğruluğunu titizlikle test etmede önemli bir adım olarak nitelendirilmektedir. Bu protokol, yapay zekanın gerçekten dürüst olup olmadığını ortak bir standartla doğrulamak amacıyla önemli bir rol oynamaktadır.

Related Posts

Copilot’un yeni özelliği, 2 boyutlu görüntüleri 3D nesnelere dönüştürebiliyor

Microsoft’un yapay zeka asistanında çeşitli deneysel özelliklerin bulunduğu bir bölüm olan Copilot Labs, Copilot 3D adlı yeni bir özellik kazandı.

Uzaya bakteri gönderildi! SpaceX’ten hayati deney

Elon Musk’ın uzay şirketi SpaceX’in Dragon uzay aracı, Crew -11 görevi kapsamında Florida’dan fırlatıldı.

Latince yazıtları çözümlemeyi kolaylaştıran yapay zeka aracı geliştirildi

Latince yazıtları çözümlemeyi kolaylaştıran yapay zeka aracı geliştirildi.

Antarktika’da 50 milyon yaşında sperm bulundu

Antarktika’da keşfedilen 50 milyon yıllık fosilleşmiş sperm, bilinen en eski hayvansal sperm olarak tarihe geçti. Peki, bu yeni keşif bize neler söylüyor?

Yüzyıllık büyük gizemde sona gelindi: İlk uçağı kim icat etti? Çok şaşıracaksınız

Wright Kardeşler mi, Santos-Dumont mu, yoksa Osmanlı’dan Hezârfen mi? İşte gökyüzüne uzanan gerçek hikâye… Uçmak, insanlığın en büyük hayaliydi. Ama bu hayali kim ilk gerçekleştirdi? Herkesin bildiği Wright Kardeşler mi, yoksa tarihin unuttuğu kahramanlar mı? Uçuşun tarihine dair bilinmeyenler, tartışmalar ve şaşırtıcı detaylar…

Avrupa Modern Pentatlon Şampiyonası başlıyor

2025 Avrupa Modern Pentatlon Şampiyonası, yarın İspanya’nın başkenti Madrid’de başlayacak. Organizasyonda 5 sporcumuz madalya mücadelesi verecek.