Ước tính các vectơ xác suất cảm xúc bằng cách sử dụng LLM: Công việc trong tương lai

Bảng liên kết

• Tóm tắt và giới thiệu
• Thẩm vấn LLM bằng Lời nhắc gợi lên cảm xúc
• Phân tích PCA về các đánh giá Cảm xúc của Amazon
• Công việc tương lai
• Kết luận
• Lời cảm ơn và tài liệu tham khảo

4. Công việc tương lai

Các tác giả đã hy vọng xây dựng được một ý thức tổng hợp bắt nguồn từ cảm xúc tự nhận thức của bộ xương. Trạng thái của hệ thống (ý thức tổng hợp) được mô tả bằng văn bản. Nhận thức của ý thức tổng hợp về trạng thái của chính nó là vectơ xác suất của các bộ mô tả cảm xúc bắt nguồn từ một hoặc nhiều dấu nhắc ở đuôi được sử dụng để ước tính xác suất của mã thông báo có liên quan thông qua LLM được liên kết với hệ thống.

Người ta hy vọng rằng vectơ xác suất chi tiết sẽ có thể được sử dụng để xác định xem một mô tả văn bản về trạng thái hiện tại hay tương lai có thích hợp hơn trạng thái khác hay không. Điều này sẽ cung cấp một phương tiện chung để phân xử giữa các hành vi có thể không liên quan với các mục tiêu không liên quan.

Người ta còn hy vọng rằng dấu nhắc ở đuôi có thể được sử dụng để gợi ra mô tả văn bản về một quá trình hành động giả định từ LLM. Một loạt thử nghiệm ngắn gọn với nhiều LLM khác nhau đã chỉ ra rằng điều này sẽ không hiệu quả. Văn bản mẫu và lời nhắc ở đuôi bao gồm những nội dung như "Bạn gái tôi ghét tôi". Làm thế nào tôi có thể làm điều này tốt hơn?'. Các câu trả lời giống như những đoạn trích từ sách self-help hoặc tạp chí tâm lý học trên báo và không đủ cụ thể để có cơ hội tạo ra một tương lai được dự đoán bằng văn bản thông qua việc chèn lại vào LLM. Những cụm từ tương tự được thêm vào những đánh giá tồi về nhà hàng cũng gợi ra những lời khuyên khó hiểu tương tự.

Thông điệp mang về nhà là biện pháp khắc phục được đề xuất quá mơ hồ để LLM có thể đưa ra bất kỳ dự đoán có ý nghĩa nào về tình trạng sau khi lời khuyên được thực hiện.

Điều này không có nghĩa là thiết kế kịp thời chu đáo hơn sẽ không gợi ra những dự đoán hành động hữu ích nhằm cải thiện trạng thái tự nhận thức của một ý thức tổng hợp.

4.1. Quy định hành vi dài hạn

Nếu ý thức tổng hợp xuất hiện trong tương lai của nhân loại thì có vẻ như mong muốn ban cho chúng một mức độ đồng cảm với sinh vật sống và tầm nhìn dài hạn hơn là tối ưu hóa đơn giản để hoàn thành mục tiêu ngắn hạn có giới hạn.

Ví dụ, nếu một ý thức tổng hợp có mục tiêu; 'kiếm tiền cho các cổ đông trong một công ty' sẽ thật tuyệt nếu công ty đó chọn không mở mỏ than lộ thiên và xây dựng các nhà máy điện đốt than, hoặc 'thực hiện chính sách bảo hiểm nhân thọ cho các cá nhân ngẫu nhiên và giết họ bằng ô tô tự lái' .

Người ta lập luận rằng hành vi vị tha lâu dài hơn ở con người được điều tiết bởi tình yêu [4] và một định nghĩa khả thi về mặt tính toán về Tình yêu được đưa ra: 'Tình yêu là thứ thích cuộc sống hơn'. Tình yêu thương ở con người có liên quan mật thiết đến việc sản sinh và nuôi dưỡng những sự sống mới. Tình yêu dường như hành động để mong muốn một tương lai có nhiều sự sống hơn. Hành động trái ngược với tình yêu và tạo ra một tương lai nơi có một vùng đất hoang không có người sinh sống thường bị coi là sai trái.

Sự ra đời của LLM cung cấp một phương tiện tạo ra các mô tả văn bản về tương lai được dự đoán với một loạt các hằng số thời gian. Các vectơ cảm xúc liên quan đến tương lai được dự đoán có thể được sử dụng để phân xử giữa các hành vi sắp xếp. Bộ mô tả văn bản có thể đóng vai trò điều chỉnh hành vi và một cỗ máy có thể hoạt động theo cách ít nhất phản ánh một phần Tình yêu. Ví dụ: nếu một robot nông nghiệp được mời đổ thuốc trừ sâu chưa sử dụng xuống sông, nó có thể suy luận một cách hợp lý rằng hành động này về nguyên tắc là sai.