Інференс‑модель — це модель, яку буде використано „в полі" для виконання перекладів на запит користувача. У цій вправі вам потрібно реалізувати декодер інференс‑моделі.

Декодер інференс‑моделі відрізняється від декодера тренувальної моделі. Ми не можемо подавати до декодера французькі слова, адже саме їх потрібно передбачити. На щастя, є розв'язання. Ми можемо використовувати передбачене французьке слово з попереднього кроку часу, щоб подати його на вхід декодеру інференс‑моделі. Тому, коли ви генеруєте переклад, декодер має створювати по одному слову за раз, використовуючи попередній вихід як вхід.

Для цієї вправи змінні hsize (розмір прихованого стану шару GRU), fr_len та fr_vocab уже імпортовано. Пам'ятайте, що префікс de використовується для позначення декодера.

Використання вкладень (embeddings — векторних представлень) для машинного перекладу

Create Your Free Account