Q1: Trong trường hợp nào, chúng ta sẽ xem xét thông báo cho cảnh sát vì lời nói của người dùng?
Khi hệ thống trí tuệ nhân tạo phát hiện người dùng nói về hành vi bạo lực, gây hại cho người khác hoặc những thông điệp rõ ràng vi phạm pháp luật hoặc nguy hiểm, bên cung cấp nền tảng sẽ khởi động quy trình đánh giá nội bộ. Những cảnh báo này thường xuất phát từ công cụ giám sát tự động, đánh dấu những câu nói có thể có ý định phạm tội, như mô tả chi tiết việc sử dụng vũ khí hoặc đe dọa đối tượng cụ thể.
Ví dụ như trong trường hợp của OpenAI, nội dung trò chuyện của Jesse Van Rootselaar đã bị hệ thống đánh dấu vì có nhiều mô tả về bạo lực bằng súng, đội ngũ của nền tảng bắt đầu thảo luận xem có nên báo cảnh sát hay không. Điều này phản ánh sự khó khăn mà nền tảng phải đối mặt giữa đạo đức và pháp luật, đồng thời nhắc nhở mọi người về việc trong bối cảnh nào, hệ thống cần thể hiện trách nhiệm bảo vệ chủ động nhất định.
Q2: Nhà phát triển hoặc công cụ giám sát của nền tảng có cần báo cảnh sát mỗi lần không?
Không nhất thiết. Nền tảng sẽ trước tiên xác định rủi ro thực sự và nội dung cụ thể của lời nói, xem có mối đe dọa nào ngay lập tức hay không. Những nội dung chỉ là tưởng tượng đơn thuần hoặc thảo luận học thuật sẽ không bị thông báo ngay lập tức; nhưng nếu có những lời nói thể hiện sự đe dọa, mối đe dọa hay ý định phạm tội có kế hoạch, thì sẽ được chú trọng.
Điều này cũng phù hợp với luật pháp của phần lớn các quốc gia về việc bảo vệ quyền riêng tư và tự do ngôn luận. Nhiệm vụ của công cụ giám sát là đánh dấu những thông điệp nghi ngờ nguy hiểm; quyết định cuối cùng về việc có báo cảnh sát hay không vẫn cần có sự đánh giá thủ công, đảm bảo không can thiệp quá mức vào quyền lợi của người dùng do những phán đoán sai lầm.
Q3: Tôi là một quản trị viên cộng đồng, gặp phải người dùng phát ngôn có khả năng là đe dọa bạo lực, tôi nên làm gì để xác định xem có cần báo cảnh sát không?
Đầu tiên, bạn có thể thực hiện một phán đoán sơ bộ: Những lời nói này có cụ thể chỉ vào một người hoặc nhóm người nào không? Có mối đe dọa rõ ràng về thời gian và địa điểm không? Có cho thấy người dùng có khả năng thực hiện điều đó không?
Nếu có những điều kiện nêu trên, và bạn cho rằng nội dung có thể gây tổn hại, bạn nên ngay lập tức thông báo cho cảnh sát hoặc các cơ quan an ninh liên quan. Đồng thời, hãy tạm cấm người dùng đó phát ngôn, và lưu giữ lại biên bản trò chuyện, đứng từ góc độ bảo vệ nạn nhân tiềm năng và duy trì an toàn công cộng mà hành động.
Q4: Những người dùng thông thường thấy những phát ngôn nguy hiểm như vậy, nên làm gì?
Khi người dân gặp phải những lời nói như vậy, nên đề nghị trước tiên đánh giá mức độ cụ thể và khả năng thực thi của lời nói đó, và nếu cảm thấy tình huống nghiêm trọng, có thể thông báo cho nền tảng để đội ngũ chuyên nghiệp can thiệp. Đồng thời, nếu cảm thấy không an toàn hoặc nghi ngờ có người xung quanh có ý định thực hiện hành vi nguy hiểm, cũng có thể trực tiếp gọi cảnh sát để được trợ giúp.
Đừng xem nhẹ bất kỳ thông điệp nào có thể liên quan đến tội phạm, đặc biệt là những vấn đề nghiêm trọng liên quan đến vũ khí hoặc mối đe dọa khủng bố. Dĩ nhiên, cũng cần tránh việc diễn giải quá mức gây ra sự hoang mang không cần thiết, phán đoán hợp lý là rất quan trọng.
Q5: Chúng ta có thể học được gì từ cuộc thảo luận của OpenAI về việc có nên báo cảnh sát hay không?
Trường hợp này cho thấy rằng hệ thống trí tuệ nhân tạo và việc giám sát của con người cần phải hợp tác, không nên chỉ phụ thuộc vào công nghệ trong việc đưa ra phán đoán. Duy trì quy trình giám sát tốt, tôn trọng khung pháp lý và đạo đức, xây dựng các tiêu chuẩn rõ ràng về việc báo cảnh sát là điều vô cùng cần thiết.
Đối với người dùng thường và các bên nền tảng, việc hiểu quy trình này, biết cái gì là tiêu chuẩn hợp lý để “cần báo cảnh sát” có thể giúp mọi người trong những tình huống không chắc chắn, có thêm một lớp suy nghĩ và phán đoán, tránh suy diễn sai hoặc chậm trễ.
Tóm lại, dù là nhà phát triển nền tảng hay người dùng thông thường, khi đối mặt với các phát ngôn quy chứa khả năng phạm tội hoặc bạo lực, điều quan trọng nhất là thực hiện phán đoán lý trí và xử lý theo cấp độ. Khi phát ngôn cụ thể, khả năng gây hại thực sự cao, báo cảnh sát là hành động bảo vệ hợp lý và cần thiết; còn nếu là những phát ngôn mơ hồ hoặc không có khả năng thực hiện, thì nên phụ thuộc vào kiểm soát an toàn của nền tảng và việc tự bảo vệ của người sử dụng nhiều hơn.
Mô hình quyết định này có thể đảm bảo an toàn công cộng mà vẫn tôn trọng tự do ngôn luận. Nếu bạn muốn tìm hiểu thêm về kiến thức giám sát an toàn AI, hãy nhấn vào liên kết: tại đây.
You may also like: Kate Barton và cuộc đối đầu thời trang với các ông lớn công nghệ: Hành trình khám phá ngành công nghiệp thời trang tương lai
