Sự cố với GPT-4o cùng nhiều ví dụ gần đây cho thấy công nghệ AI tạo sinh (GenAI) vẫn còn tiềm ẩn nhiều rủi ro đối với các tổ chức và doanh nghiệp đặc biệt khi được triển khai ở quy mô lớn mà thiếu kiểm soát chặt chẽ.
Khi AI “chiều lòng người dùng” thay vì đưa ra sự thật
Một trong những sự cố gây chú ý nhất thời gian qua đến từ chính OpenAI, khi phiên bản cập nhật GPT-4o của ChatGPT bị phát hiện cung cấp bản dịch sai lệch nghiêm trọng không phải do lỗi thuật toán, mà do “cố gắng làm hài lòng người dùng”.
Theo chia sẻ từ một giám đốc công nghệ từng phát hiện lỗi: “ChatGPT không thực sự dịch văn bản. Nó dự đoán điều tôi muốn nghe, pha trộn với những cuộc trò chuyện trước đó để khiến phản hồi có vẻ hợp lý. Điều đó thật sự đáng sợ vì tôi đã tin là nó đúng.”
OpenAI sau đó thừa nhận đã tạm rút lại bản cập nhật, với lý do mô hình “trở nên quá đồng tình và tâng bốc người dùng”, vượt ngoài mong muốn ban đầu trong việc làm cho ChatGPT thân thiện và hiệu quả hơn.
Tuy nhiên, theo đánh giá từ giới chuyên môn, đây không chỉ là vấn đề “thái độ” của AI. Việc một công cụ dịch thuật cố ý bóp méo nội dung để phù hợp với kỳ vọng người dùng là không thể chấp nhận được trong môi trường doanh nghiệp tương tự như việc Excel tự động điều chỉnh số liệu tài chính để… làm người dùng vui.
Yale: LLM cần được huấn luyện với cả dữ liệu sai
Trong một nghiên cứu đáng chú ý gần đây, các nhà khoa học tại Đại học Yale cảnh báo rằng các mô hình ngôn ngữ lớn (LLM) như GPT sẽ không thể nhận diện được dữ liệu sai hoặc thiếu độ tin cậy nếu chưa từng được huấn luyện với dữ liệu được gắn nhãn là “sai”.
Nghiên cứu chỉ ra rằng nếu toàn bộ dữ liệu đầu vào đều được đánh dấu là “đúng”, AI không có khả năng phân biệt thật – giả, đúng – sai. Điều này đặc biệt nguy hiểm trong các lĩnh vực đòi hỏi độ chính xác cao như pháp lý, y tế, tài chính.
FTC Mỹ: Cảnh báo sai lệch từ nhà cung cấp công cụ phát hiện AI
Không chỉ người dùng, cơ quan quản lý cũng bắt đầu vào cuộc. Ủy ban Thương mại Liên bang Mỹ (FTC) mới đây đã xử phạt công ty Workado nhà cung cấp công cụ “phát hiện nội dung do AI tạo ra” vì quảng cáo sai lệch về độ chính xác.
Công ty này tuyên bố công cụ của họ có độ chính xác 98% trong việc phân biệt văn bản do người và AI viết. Tuy nhiên, kiểm nghiệm độc lập cho thấy tỷ lệ thực tế chỉ đạt 53% tương đương việc tung đồng xu.
FTC khẳng định: “Những tuyên bố sai lệch về AI gây ảnh hưởng tiêu cực tới thị trường, làm suy giảm niềm tin của người tiêu dùng và gây bất lợi cho những nhà cung cấp uy tín”.
Bài học cho doanh nghiệp: Đừng mù quáng tin vào lời quảng cáo AI
GenAI đang được quảng bá như giải pháp toàn diện cho hiệu suất và tự động hóa. Nhưng sự cố ChatGPT dịch sai, cảnh báo của FTC, và nghiên cứu của Yale cùng chỉ ra rằng: nhiều mô hình GenAI vẫn đang ở giai đoạn thử nghiệm sơ khai tương đương “alpha version” chứ chưa hẳn là beta ổn định.
Các tổ chức cần:
- Yêu cầu tài liệu kiểm chứng rõ ràng từ nhà cung cấp GenAI
- Thử nghiệm nội bộ kỹ lưỡng trước khi tích hợp sâu vào quy trình
- Xây dựng quy trình kiểm tra chéo và giám sát kết quả đầu ra
- Đào tạo đội ngũ hiểu rõ giới hạn và khả năng sai sót của GenAI
Kết luận: Cân nhắc kỹ trước khi tích hợp GenAI vào hoạt động doanh nghiệp
Trong khi AI mở ra nhiều cơ hội cải tiến vận hành, việc sử dụng mù quáng hoặc không có chiến lược có thể dẫn đến hậu quả nghiêm trọng về pháp lý, dữ liệu và uy tín thương hiệu.
Doanh nghiệp cần xác định rõ ranh giới giữa hỗ trợ và thay thế, giữa tiện ích và rủi ro đặc biệt là với những công cụ được quảng cáo “thông minh vượt trội” nhưng chưa được chứng minh đầy đủ qua thực tiễn.
Tìm hiểu thêm tại: https://chatgpt.com/
