Speech driven backchannel generation in human-robot interaction with conservative Q-learning
İnsan-robot etkileşiminde korunumlu Q-öğrenme ile konuşmaya dayalı arka kanal üretimi
- Tez No: 730986
- Danışmanlar: PROF. DR. YÜCEL YEMEZ
- Tez Türü: Yüksek Lisans
- Konular: Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve Kontrol, Computer Engineering and Computer Science and Control
- Anahtar Kelimeler: Derin öğrenme, Robotlar, İnsan-bilgisayar etkileşimi, Deep learning, Robots, Human-computer interaction
- Yıl: 2022
- Dil: İngilizce
- Üniversite: Koç Üniversitesi
- Enstitü: Fen Bilimleri Enstitüsü
- Ana Bilim Dalı: Bilgisayar Mühendisliği Ana Bilim Dalı
- Bilim Dalı: Bilgisayar Bilimi ve Mühendisliği Bilim Dalı
- Sayfa Sayısı: Belirtilmemiş.
Özet
İnsan-aracı etkileşiminde kullanıcı ilgisinin nasıl canlı tutulabileceği, üzerinde hala çalışılmakta olan açık bir araştırma konusudur. Bu tezde, bu amaca yönelik olarak, konuşma güdümlü bir gülme arka kanalı üretme modeli önerilmektedir. Problemi, durumu vektörünün konuşma sinyaliyle, ödül işlevinin ise kullanıcı ilgisiyle temsil edildiği, böylelikle kullanıcı ilgisinin en büyüklendiği bir Markov karar süreci olarak formüle ediyoruz. Çevrimiçi eğitimin insan-aracı etkileşimi için sıklıkla uygulanamaz olması nedeniyle, insandan insana ikili etkileşime ilişkin video kayıtlarından oluşan mevcut veri kümelerini, arka kanal üretme görevine yönelik olarak bir aracıyı eğitmek için kullanıyoruz. Bu problemi, eğitim sırasındaki dağılım kayması sorununu azaltmak için Q değerlerinin fazla tahminini azaltan bir yöntem olan korunumlu Q-öğrenmeye (CQL) dayalı bir aktör-eleştirmen yöntemi kullanılarak ele alınmıştır. Önerilen CQL tabanlı yaklaşım, gülme üretme görevi için objektif yöntemlerle IEMOCAP veri seti üzerinde değerlendirilmiştir. Önceki politika dışı Q-öğrenme yaklaşımlarıyla karşılaştırıldığında, gülme üretim hızı açısından veri seti ile uyum iyileştirildi. Ek olarak, öğrenilen politikanın başarısını, beklenen kullanıcı ilgisini politika dışı politika değerlendirme teknikleriyle tahmin ederek değerlendirdik.
Özet (Çeviri)
Sustaining engagement in human-agent interaction remains an open problem. The purpose of this thesis is to propose a model for maintaining engagement during human-agent interaction through speech-driven backchannel generation. The problem is modeled as a Markov decision process, with the speech signal representing the state and the reward of maximizing human engagement. Due to the fact that online training is frequently impracticable for human-agent interaction, existing datasets on human-to-human dyadic interaction are employed to train an agent for the backchannel generation task. The problem has been addressed using an actor-critic method based on conservative Q-learning (CQL), which reduces the distributional shift problem during training by suppressing Q-value overestimation. The suggested CQL-based approach is objectively evaluated for the laughter generating task on the IEMOCAP dataset. When compared to previous off-policy Q-learning approaches, compliance with the dataset is improved in terms of laugh production rate. Additionally, the learned policy's success is demonstrated by estimating expected engagement with off-policy policy evaluation techniques.
Benzer Tezler
- Homomorfik filtreleme ile EKG analizi
Başlık çevirisi yok
HÜSEYİN HIZ
Yüksek Lisans
Türkçe
1995
Elektrik ve Elektronik Mühendisliğiİstanbul Teknik ÜniversitesiDOÇ.DR. MEHMET KORÜREK
- A corpus-driven analysis of evet 'yes' and hı-hı in Turkish: Evidence from the spoken Turkish corpus
Türkçede evet ve hı-hı'nın derleme dayalı incelenmesi: Sözlü Türkçe derlemi'nden bulgular
GÜNER ÖZCAN
Yüksek Lisans
İngilizce
2015
DilbilimMersin Üniversitesiİngiliz Dili ve Edebiyatı Ana Bilim Dalı
PROF. DR. YEŞİM AKSAN
- Endüstriyel bir tartı sisteminin tasarımı
Design of an industrial weighing system
B.BERK ÜSTÜNDAĞ
Yüksek Lisans
Türkçe
1994
Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve Kontrolİstanbul Teknik ÜniversitesiPROF.DR. ATİLLA BİR
- 2-8 MBit/s fiber optik hat teçhizatı arayüz devresinin sahada programlanabilir kapı dizisi ile tasarlanması ve gerçeklenmesi
Designing and implementing 2MBit/s and 8 MBit/s fiber optic line terminating equipment interface circuit by using field programmable gate array
ÜMİT GÖĞÜSGEREN
Yüksek Lisans
Türkçe
1993
Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve Kontrolİstanbul Teknik ÜniversitesiPROF. DR. AHMET DERVİŞOĞLU
- Speech driven upper body gesture analysis and synthesis
Konuşma ile sürülen üst beden hareketlerinin analizi ve sentezi
SERKAN ÖZKUL
Yüksek Lisans
İngilizce
2012
Elektrik ve Elektronik MühendisliğiKoç ÜniversitesiBilgisayar Mühendisliği Ana Bilim Dalı
DOÇ. DR. YÜCEL YEMEZ