Sözcük kullanmadan düşünen yapay zekâ geliştirildi: Maliyeti 11 kat azaltabilir
Yapay zekâ modellerinin düşünmek için uzun metin zincirleri üretmesi gerektiği fikri tartışmaya açıldı. Pathway tarafından geliştirilen BDH-CQ adlı yeni sistem, ara düşünme adımlarını sözcüklere dökmeden işlem yaparak daha düşük maliyet ve daha kısa yanıt süresi vadediyor.
ChatGPT ve benzeri araçların temelindeki Transformer modelleri, karmaşık görevlerde çok sayıda token üreterek adım adım akıl yürütüyor. Token miktarı arttıkça işlem gücü, gecikme ve kullanım maliyeti de yükseliyor. BDH-CQ ise çözümü yüksek boyutlu bir "gizli alanda" yinelemeli olarak işliyor ve yalnızca nihai cevabı üretiyor.
150 MİLYON PARAMETREYLE DİKKAT ÇEKEN SONUÇ
Araştırmaya göre yalnızca 150 milyon parametreye sahip model, soyut akıl yürütmeyi ölçen ARC-AGI-1 testinde iki denemede yüzde 29,5 başarı elde etti. Görev başına hesaplanan çalıştırma maliyeti 0,0007 dolar olurken sistemin karşılaştırılan OpenAI modelinden yaklaşık 11 kat daha ucuza çalıştığı belirtildi.
YENİ MİMARİ YAPAY ZEKâ MALİYETİNİ DÜŞÜREBİLİR
Model, örneklerden öğrendiği bilgileri yinelenen belleğinde saklıyor ve çözümü metinsel bir taslak oluşturmadan geliştiriyor. Böylece gereksiz token üretiminin ve enerji tüketiminin azaltılması hedefleniyor.
Ancak BDH-CQ henüz genel amaçlı büyük modellerin rakibi değil. Sonuçlar tek bir karşılaştırma testine dayanıyor ve yöntemin karmaşık görevlerde nasıl ölçekleneceği bilinmiyor. Araştırmacılar, mimariyi matematik, siber güvenlik ve endüstriyel operasyonlarda sınamayı planlıyor. Bu yaklaşım başarılı olursa yapay zekâyı daha erişilebilir hale getirebilir.
