ChatGPT đã gặp sự cố công khai nhưng OpenAI cho biết hiện tại mọi chuyện đã ổn


ChatGPT đã gặp sự cố công khai nhưng OpenAI cho biết hiện tại mọi chuyện đã ổn​

admin – 24 Th2, 2024

Sự cố không giải thích được mới nhất với kết quả đầu ra của ChatGPT nêu bật sự nguy hiểm của tự động hóa.

photo 2024 02 24 14 33 34

Hệ thống trí tuệ nhân tạo (AI) ChatGPT nổi tiếng của OpenAI đã phải chịu một chút sự cố công khai trong khoảng thời gian từ ngày 20 đến ngày 21 tháng 2, khiến người dùng bối rối và bối rối khi nói ra những điều vô nghĩa và những điều kỳ lạ khác, bao gồm cả Shakespeare giả không được báo trước.

Tính đến 8:14 giờ chuẩn Thái Bình Dương ngày 21 tháng 2, vấn đề dường như đã được giải quyết. Bản cập nhật mới nhất trên trang Trạng thái của OpenAI cho biết “ChatGPT đang hoạt động bình thường”. Điều này cho thấy sự cố đã được giải quyết 18 giờ sau khi OpenAI báo cáo lần đầu tiên.

chatgpt dường như đang đi chệch hướng và không ai có thể giải thích tại sao pic.twitter.com/0XSSsTfLzP

– sean mcguire (@seanw_m) Ngày 21 tháng 2 năm 2024

Hiện tại vẫn chưa rõ chính xác điều gì đã gây ra sự cố và OpenAI vẫn chưa phản hồi yêu cầu bình luận của chúng tôi.

Dựa trên việc kiểm tra sơ bộ các kết quả đầu ra được báo cáo, có vẻ như ChatGPT đã gặp phải một số dạng nhầm lẫn về mã thông báo. Do tính chất hộp đen của các mô hình ngôn ngữ lớn được xây dựng trên công nghệ GPT, các nhà khoa học tại OpenAI có thể không chẩn đoán chính xác điều gì đã xảy ra. Nếu đúng như vậy, có khả năng nhóm sẽ tập trung vào các biện pháp phòng ngừa như triển khai thêm các biện pháp bảo vệ chống lại chuỗi dài những điều vô nghĩa rõ ràng.

Tâm lý trên mạng xã hội dường như chỉ ra rằng bất kỳ thiệt hại nào do chatbot gây ra nói chung chỉ giới hạn ở việc lãng phí thời gian của người dùng mong đợi những phản hồi hợp lý cho các truy vấn.

Tuy nhiên, trường hợp này minh họa khả năng các hệ thống AI tạo ra có thể gửi các tin nhắn bất ngờ, gây ảo giác hoặc không nhất quán bất cứ lúc nào. Những loại phản ứng không mong muốn này có thể gây ra hậu quả tiêu cực.

Ví dụ, Air Canada gần đây đã phát hiện ra rằng họ không thể đổ lỗi cho thuật toán khi tòa án yêu cầu họ hoàn lại một phần tiền cho khách hàng đã nhận được thông tin xấu về chính sách đặt vé từ chatbot dịch vụ khách hàng.

Trong thế giới tiền điện tử, các nhà đầu tư đang ngày càng sử dụng các hệ thống tự động được xây dựng trên công nghệ LLM và GPT để tạo danh mục đầu tư và thực hiện giao dịch. Như thất bại gần đây của ChatGPT đã chỉ ra, ngay cả những mô hình mạnh mẽ nhất cũng có thể gặp phải lỗi không mong muốn ở bất kỳ quy mô nào.




ChatGPT đã gặp sự cố công khai nhưng OpenAI cho biết hiện tại mọi chuyện đã ổn​

admin – 24 Th2, 2024

Sự cố không giải thích được mới nhất với kết quả đầu ra của ChatGPT nêu bật sự nguy hiểm của tự động hóa.

photo 2024 02 24 14 33 34

Hệ thống trí tuệ nhân tạo (AI) ChatGPT nổi tiếng của OpenAI đã phải chịu một chút sự cố công khai trong khoảng thời gian từ ngày 20 đến ngày 21 tháng 2, khiến người dùng bối rối và bối rối khi nói ra những điều vô nghĩa và những điều kỳ lạ khác, bao gồm cả Shakespeare giả không được báo trước.

Tính đến 8:14 giờ chuẩn Thái Bình Dương ngày 21 tháng 2, vấn đề dường như đã được giải quyết. Bản cập nhật mới nhất trên trang Trạng thái của OpenAI cho biết “ChatGPT đang hoạt động bình thường”. Điều này cho thấy sự cố đã được giải quyết 18 giờ sau khi OpenAI báo cáo lần đầu tiên.


Hiện tại vẫn chưa rõ chính xác điều gì đã gây ra sự cố và OpenAI vẫn chưa phản hồi yêu cầu bình luận của chúng tôi.

Dựa trên việc kiểm tra sơ bộ các kết quả đầu ra được báo cáo, có vẻ như ChatGPT đã gặp phải một số dạng nhầm lẫn về mã thông báo. Do tính chất hộp đen của các mô hình ngôn ngữ lớn được xây dựng trên công nghệ GPT, các nhà khoa học tại OpenAI có thể không chẩn đoán chính xác điều gì đã xảy ra. Nếu đúng như vậy, có khả năng nhóm sẽ tập trung vào các biện pháp phòng ngừa như triển khai thêm các biện pháp bảo vệ chống lại chuỗi dài những điều vô nghĩa rõ ràng.

Tâm lý trên mạng xã hội dường như chỉ ra rằng bất kỳ thiệt hại nào do chatbot gây ra nói chung chỉ giới hạn ở việc lãng phí thời gian của người dùng mong đợi những phản hồi hợp lý cho các truy vấn.

Tuy nhiên, trường hợp này minh họa khả năng các hệ thống AI tạo ra có thể gửi các tin nhắn bất ngờ, gây ảo giác hoặc không nhất quán bất cứ lúc nào. Những loại phản ứng không mong muốn này có thể gây ra hậu quả tiêu cực.

Ví dụ, Air Canada gần đây đã phát hiện ra rằng họ không thể đổ lỗi cho thuật toán khi tòa án yêu cầu họ hoàn lại một phần tiền cho khách hàng đã nhận được thông tin xấu về chính sách đặt vé từ chatbot dịch vụ khách hàng.

Trong thế giới tiền điện tử, các nhà đầu tư đang ngày càng sử dụng các hệ thống tự động được xây dựng trên công nghệ LLM và GPT để tạo danh mục đầu tư và thực hiện giao dịch. Như thất bại gần đây của ChatGPT đã chỉ ra, ngay cả những mô hình mạnh mẽ nhất cũng có thể gặp phải lỗi không mong muốn ở bất kỳ quy mô nào.

 

Có thể bạn quan tâm

Bên trên
}, 0); });