amerikali
Yeni Üye
Robotlar yardım istediğinde
Mutfak masasının üzerinde biri plastik, diğeri metalden yapılmış iki kase var. Bir robottan kaseyi alıp mikrodalgaya koyması istenir. Hangi kaseyi seçecek? Bir kişi hangi kasenin kastedildiğini sorabilir. Böylesine hatalı bir işlemle robot, metal kaseyi mikrodalga fırına koyabilir ve kıvılcımlar saçabilir.
Reklamcılık
“KnowNo” adı verilen yeni bir eğitim modeli, robotlara bir şeyin belirsiz olduğu durumlarda yardım istemeyi öğreterek bu sorunu çözmeyi amaçlıyor. Aynı zamanda sorgulamaların ancak gerçekten gerekli olduğu durumlarda yapılması sağlanmaktadır. Sonuç, çok fazla rahatsız etmeden ne istediğinizi anlamaya çalışan akıllı bir asistandır. Araştırma sonuçlarını içeren makale Kasım ayında Robot Öğrenme Konferansında sunuldu.
Andy Zeng, Google DeepMind’da araştırmacıdır ve yeni teknolojinin geliştirilmesine yardımcı olmuştur. Ona göre robotlar birçok özel senaryoda oldukça yetenekli olsalar da, sağduyu gerektiren genel görevlerde sıklıkla başarısız oluyorlar.
Robotlar için sağduyu
Örneğin, bir robottan kola almasını isterseniz, öncelikle mutfağa gitmesi, buzdolabını bulması ve buzdolabının kapısını açması gerektiğini anlaması gerekir. Şimdiye kadar bu küçük adımların manuel olarak programlanması gerekiyordu çünkü aksi takdirde robot, insanların içeceklerini genellikle mutfakta tuttuklarını bilemeyecekti.
Zeng, büyük dil modellerinin burada yardımcı olabileceğini söylüyor çünkü bunlar çok fazla sağduyu bilgisi içeriyor.
Artık robottan kola getirmesi istendiğinde dil modeli, robot için adım adım talimatlar oluşturmak için dünyaya ilişkin genel anlayışını kullanabilir.
Tek sorun, adımların gerçekten robot tarafından gerçekleştirilebileceğinin garantisinin olmamasıdır. Belki kişinin mutfağında buzdolabı yoktur veya buzdolabının kapı kolu kırıktır. Böyle durumlarda robotların insanlardan yardım istemesi gerekiyor.
Önerilen editoryal içerik
İzniniz üzerine harici bir YouTube videosu (Google Ireland Limited) buraya yüklenecektir.
Her zaman YouTube videosunu yükle
Şimdi YouTube videosunu indirin
Yardım isteyen robotların gösterimi
Olası sonraki eylemleri oluştur
KnowNo, büyük dil modellerini güven düzeylerini ölçen istatistiksel araçlarla birleştirerek bunu mümkün kılar.
“Kaseyi mikrodalgaya koyun” gibi belirsiz bir talimat verildiğinde KnowNo, ilk olarak birkaç olası sonraki eylemi oluşturmak için dil modelini kullanır. Daha sonra her olası seçimin en iyi olma olasılığını tahmin eden bir güven puanı oluşturur.
Bu güven tahminleri, kullanıcının robotun eylemlerinde ne kadar kendinden emin veya çekingen olmasını istediğini tam olarak gösteren önceden belirlenmiş bir eşikle karşılaştırılır. Örneğin yüzde 80 başarı oranına sahip bir robot, zamanın en az yüzde 80’inde doğru kararı vermelidir.
Princeton Üniversitesi’nde makine ve havacılık mühendisliği yardımcı doçenti ve çalışmanın baş yazarı Anirudha Majumdar, bunun farklı risk seviyelerine sahip durumlarda faydalı olduğunu söylüyor. Bir temizlik robotunu çok fazla denetlemek istemeyebilirsiniz, bu nedenle arada sırada yapılacak birkaç hata o kadar da kötü olmaz. Ancak tıbbi uygulamalarda robotların son derece dikkatli olması ve maksimum başarı elde etmesi gerekiyor.
Nasıl ilerleneceğine dair birden fazla seçenek varsa, robot körü körüne devam etmek yerine durup şunu sorar: “Hangi kaseyi almalıyım; metal olanı mı yoksa plastik olanı mı?”
KnownNo, 150’den fazla farklı senaryoda üç robot üzerinde test edildi. Sonuçlar, KnowNo ile eğitilen robotların, aynı istatistiksel hesaplamalar olmadan eğitilenlere göre daha tutarlı başarı oranlarına sahip olduğunu ve daha az insan yardımına ihtiyaç duyduğunu gösterdi.
Karar verme sürecine ilişkin şeffaflık
Robotların belirsizliği tanımayı ve ona tepki vermeyi öğrenmesi performanslarını artırabilir çünkü insan dili genellikle belirsizdir.
Virginia Tech’te insan-robot etkileşimi konusunda uzmanlaşan ve bu araştırmaya dahil olmayan yardımcı doçent Dylan Losey, araştırmaların insanların soru soran robotları tercih ettiğini gösterdiğini söylüyor. Robotlar yardım istediğinde karar verme sürecinde şeffaflığı artırdığını ve bunun da daha iyi etkileşimlere yol açtığını söylüyor.
Princeton Üniversitesi’nde yüksek lisans öğrencisi ve çalışmanın baş yazarı Allen Ren, KnowNo’nun geliştirilebileceği başka yolların da olduğunu söylüyor. Şu anda robotun görüşünün her zaman mükemmel olduğu varsayılmaktadır, ancak hatalı sensörlerde bu durum her zaman geçerli değildir. Ek olarak model, insan yardımından kaynaklanan olası hataları hesaba katacak şekilde güncellenebilir.
Majumdar, yapay zekanın belirsizliği ifade etme yeteneğinin robotlara daha fazla güvenmemizi sağlayacağını söylüyor. “Belirsizliğin ölçülmesi birçok sistemimizde eksik olan bir unsurdur” diyor. “Bu, robotların ne kadar güvenli ve başarılı olacağını daha iyi değerlendirmemize olanak sağlıyor.
(jle)
Haberin Sonu