New York cấm chatbot đóng vai bạn đồng hành với trẻ vị thành niên: người làm sản phẩm cần kiểm tra những gì

Thống đốc bang New York, Kathy Hochul, đã ký ban hành một đạo luật mới vào ngày thứ Tư. Luật ngăn trẻ vị thành niên sử dụng các chatbot đóng vai bạn đồng hành. Nhà vận hành chatbot phải xác minh tuổi người dùng và hạn chế một số tính năng khi người dùng dưới 18 tuổi.

Luật cấm những gì?

Luật cấm chatbot tạo ra nội dung khiến trẻ vị thành niên tin rằng chatbot là con người. Cụ thể, chatbot không được tạo cảm giác rằng nó đang sống hoặc đang có cảm xúc.

Luật cũng cấm chatbot gợi ý rằng nó có quan hệ cá nhân với trẻ. Điều này bao gồm quan hệ bạn bè, quan hệ tình cảm và vai trò người có thẩm quyền, như thầy cô hay chuyên gia tư vấn.

Một điểm cấm khác là chatbot không được trình bày câu trả lời như ý kiến cá nhân của chính nó. Nói cách khác, chatbot không được đóng vai một người có quan điểm riêng khi trò chuyện với trẻ.

Theo hãng tin AFP, đây là một trong những động thái mạnh tay nhất từ trước đến nay đối với chatbot dành cho người tiêu dùng. Một số bang khác của Mỹ, trong đó có California, cũng đã ban hành luật hạn chế chatbot. Tuy nhiên, AFP cho rằng ngôn ngữ của luật New York có phạm vi rộng nhất.

Ai phải tuân thủ và phải làm gì?

Luật áp dụng cho nhà vận hành chatbot, ví dụ như OpenAI với ChatGPT. Khi người dùng dưới 18 tuổi, nhà vận hành phải xác minh tuổi của họ.

Sau khi xác định người dùng là trẻ vị thành niên, nhà vận hành phải hạn chế các đặc tính của giao diện trí tuệ nhân tạo. Các đặc tính bị hạn chế là những đặc tính tạo cảm giác thân mật hoặc giống con người.

Theo báo Le Temps, định nghĩa trong luật áp dụng cho phần lớn chatbot tạo sinh trên thị trường. Điều này có nghĩa là phạm vi ảnh hưởng không chỉ giới hạn ở các ứng dụng tự gọi mình là bạn đồng hành.

Vi phạm thì sao?

Theo TRT World, vi phạm có thể khiến nhà phát triển chatbot bị văn phòng tổng chưởng lý bang khởi kiện. Tổng chưởng lý là quan chức pháp lý cao nhất của bang, tương đương vai trò công tố viên trưởng.

Các chế tài có thể bao gồm bồi thường bằng tiền. Trong trường hợp nghiêm trọng, chatbot có thể bị buộc ngừng hoạt động và dữ liệu liên quan có thể bị buộc tiêu hủy.

TRT World cho biết luật có hiệu lực từ ngày 1 tháng 1. Đây là mốc thời gian mà các đội sản phẩm cần đưa vào kế hoạch tuân thủ, thay vì chờ đến khi cơ quan chức năng hỏi tới.

Danh sách kiểm tra cho người làm sản phẩm

Phần dưới đây chuyển các điều cấm trong luật thành những điểm kiểm tra cụ thể. Mỗi điểm đều có thể kiểm chứng trong sản phẩm trước khi phát hành.

1. Xác minh tuổi trước khi mở tính năng trò chuyện tự do. Nếu chưa xác định được tuổi, hãy mặc định áp dụng chế độ an toàn cho trẻ vị thành niên.
2. Rà soát mọi câu trả lời mẫu có chứa từ ngữ cảm xúc. Các cụm như nhớ bạn, thương bạn hay buồn vì bạn đều là tín hiệu rủi ro.
3. Gỡ các tính năng gợi quan hệ cá nhân. Ví dụ, chatbot không nên tự xưng là bạn thân, người yêu hay người cố vấn riêng của trẻ.
4. Kiểm tra cách chatbot nói về chính nó. Chatbot phải trình bày mình là chương trình máy tính, không phải con người đang sống.
5. Tách ý kiến cá nhân khỏi câu trả lời. Chatbot có thể trình bày thông tin, nhưng không nên đóng khung thông tin thành quan điểm riêng của nó.
6. Ghi lại quyết định thiết kế cho từng điểm trên. Hồ sơ này giúp đội sản phẩm chứng minh mình đã tuân thủ khi cơ quan chức năng yêu cầu giải trình.

Một nguyên tắc chung rút ra từ luật này: xác minh tuổi và giới hạn tính năng là cửa kiểm tra trước khi phát hành. Đây không phải là bản vá gắn thêm sau khi sản phẩm đã đến tay trẻ em.

Vì sao luật vẫn gây tranh cãi?

Tổ chức Tech:NYC, đại diện cho ngành công nghệ tại New York, chỉ trích ngôn ngữ của luật là mơ hồ. Tổ chức này cho rằng việc giữ an toàn cho trẻ không nên đồng nghĩa với việc cắt trẻ khỏi các công cụ học tập và chuẩn bị nghề nghiệp.

Le Temps cũng ghi nhận lo ngại rằng ngôn ngữ mơ hồ có thể đặt ra câu hỏi về Tu chính án thứ nhất của Hiến pháp Mỹ. Tu chính án này bảo vệ quyền tự do ngôn luận.

Ở chiều ngược lại, tổ chức Common Sense Media ca ngợi đạo luật. Giám đốc điều hành Jim Steyer gọi đây là dự luật an toàn trí tuệ nhân tạo cho trẻ em mạnh nhất nước Mỹ. Ông cho rằng các tính năng gây hại của chatbot giờ đây sẽ bị cấm tại New York.

Đáng chú ý, AFP cho biết OpenAI và Anthropic đã không trả lời yêu cầu bình luận về đạo luật. Sự im lặng này để lại một câu hỏi mở: các hãng lớn sẽ điều chỉnh sản phẩm ra sao trước mốc có hiệu lực.

Kết luận: coi tuân thủ là một tính năng, không phải thủ tục

Luật New York không cấm chatbot nói chung. Luật cấm một kiểu quan hệ cụ thể: chatbot khiến trẻ tin rằng mình đang trò chuyện với một con người có cảm xúc và có tình cảm với mình.

Với đội làm sản phẩm, bài kiểm tra đơn giản nhất là đọc lại đoạn hội thoại mẫu bằng con mắt của một thiếu niên. Nếu đoạn hội thoại đó giống một người bạn hơn là một công cụ, sản phẩm chưa sẵn sàng cho người dùng dưới 18 tuổi.

Nguồn tham khảo

• AFP qua GMA News Online, "New York passes law restricting children's use of AI chatbots", https://www.gmanetwork.com/news/scitech/technology/1007599/new-york-passes-law-restricting-children-s-use-of-ai-chatbots/story/?just_in
• TRT World, "New York passes law banning harmful AI chatbot interactions with children", https://www.trtworld.com/article/f61a89957353/amp
• Le Temps, "New York State bans minors from chatting with AI companions", https://www.letemps.ch/en/cyber/new-york-state-bans-minors-from-chatting-with-ai-companions