Các bộ chuyển đổi vòng tròn giải mã tốt hơn (gần như) miễn phí

Đoạn trích bài viết

Looped Transformers đạt được hiệu quả tham số bằng cách lặp đi lặp lại thực hiện một khối chia sẻ trên các vòng lặp lặp. Mỗi vòng lặp mang lại một đại diện trung gian có thể giải mã cho cùng một token tiếp theo, nhưng giải mã tiêu chuẩn loại bỏ các trạng thái trước đó.