Tuần này về AI: OpenAI xem xét cho phép AI khiêu dâm

Tuần này về AI: OpenAI xem xét cho phép AI khiêu dâm

Theo kịp một ngành phát triển nhanh như AI là một yêu cầu cao. Vì vậy, cho đến khi AI có thể làm điều đó cho bạn, đây là tổng hợp hữu ích các câu chuyện gần đây trong thế giới học máy, cùng với các nghiên cứu và thử nghiệm đáng chú ý mà chúng tôi chưa đề cập riêng.

Nhân tiện, TechCrunch có kế hoạch sớm ra mắt bản tin AI. Giữ nguyên. Trong thời gian chờ đợi, chúng tôi đang tăng nhịp độ của chuyên mục AI bán thường xuyên, trước đây là hai lần một tháng (hoặc lâu hơn), lên hàng tuần – vì vậy hãy chú ý đến nhiều ấn bản hơn.

Tuần này trong AI, OpenAI tiết lộ rằng họ đang khám phá cách tạo ra nội dung khiêu dâm AI “một cách có trách nhiệm”. Đúng – bạn đã nghe đúng rồi. Được công bố trong một tài liệu nhằm vén bức màn và thu thập phản hồi về các hướng dẫn của AI, chính sách NSFW mới của OpenAI nhằm bắt đầu một cuộc trò chuyện về cách thức – và ở đâu – công ty có thể cho phép hình ảnh và văn bản rõ ràng trong các sản phẩm AI của mình, OpenAI cho biết.

Joanne Jang, thành viên nhóm sản phẩm tại OpenAI, nói với NPR: “Chúng tôi muốn đảm bảo rằng mọi người có quyền kiểm soát tối đa đến mức không vi phạm luật pháp hoặc quyền của người khác”. “Có những trường hợp sáng tạo trong đó nội dung liên quan đến tình dục hoặc ảnh khoả thân rất quan trọng đối với người dùng của chúng tôi.”

Đây không phải là lần đầu tiên OpenAI thể hiện sự sẵn sàng nhúng chân vào lĩnh vực gây tranh cãi. Đầu năm nay, Mira Murati, CTO của công ty, nói với The Wall Street Journal rằng cô “không chắc chắn” liệu OpenAI có cho phép sử dụng công cụ tạo video của mình, Sora, để tạo nội dung người lớn hay không.

Vậy phải làm gì với điều này?

Ở đó một tương lai trong đó OpenAI mở ra cánh cửa cho phim khiêu dâm do AI tạo ra và tất cả đều… ổn. Tôi không nghĩ Jang sai khi nói rằng có những hình thức biểu đạt nghệ thuật dành cho người lớn hợp pháp – biểu hiện có thể được tạo ra với sự trợ giúp của các công cụ hỗ trợ AI.

Nhưng tôi không chắc chúng ta có thể tin tưởng OpenAI – hoặc bất kỳ nhà cung cấp AI tổng quát nào về vấn đề đó – để làm đúng.

Hãy xem xét góc độ quyền của người sáng tạo chẳng hạn. Các mô hình của OpenAI đã được đào tạo về số lượng lớn nội dung web công cộng, một số nội dung chắc chắn có tính chất khiêu dâm. Nhưng OpenAI đã không cấp phép cho tất cả nội dung này – hoặc thậm chí cho phép người sáng tạo từ chối đào tạo cho đến gần đây (và thậm chí sau đó, chỉ một số hình thức đào tạo nhất định).

Thật khó để kiếm sống bằng nội dung người lớn và nếu OpenAI tham gia xu hướng khiêu dâm do AI tạo ra, thì những người sáng tạo sẽ phải đối mặt với sự cạnh tranh thậm chí còn gay gắt hơn – sự cạnh tranh được xây dựng dựa trên tác phẩm của những người sáng tạo đó, không phải vì không có gì.

Vấn đề khác trong đầu tôi là tính dễ sai lầm của các biện pháp bảo vệ hiện tại. OpenAI và các đối thủ đã cải tiến các công cụ lọc và kiểm duyệt của họ trong nhiều năm. Tuy nhiên, người dùng liên tục tìm ra cách giải quyết cho phép họ lạm dụng các mô hình, ứng dụng và nền tảng AI của công ty.

Mới trong tháng 1, Microsoft đã buộc phải thay đổi công cụ tạo hình ảnh Designer, công cụ khai thác các mô hình OpenAI, sau khi người dùng tìm ra cách tạo ảnh khỏa thân của Taylor Swift. Về mặt tạo văn bản, thật dễ dàng để tìm thấy các chatbot được xây dựng dựa trên các mô hình được cho là “an toàn”, chẳng hạn như Claude 3 của Anthropic, vốn dễ dàng đưa ra nội dung khiêu dâm.

AI đã tạo ra một hình thức lạm dụng tình dục mới. Học sinh cấp 1 và cấp 3 đang sử dụng các ứng dụng hỗ trợ AI để “lột” ảnh của các bạn cùng lớp mà không có sự đồng ý của các bạn cùng lớp đó; một cuộc thăm dò năm 2021 được thực hiện ở Anh, New Zealand và Úc cho thấy 14% số người được hỏi từ 16 đến 64 tuổi đã trở thành nạn nhân của hình ảnh deepfake.

Luật mới ở Mỹ và các nơi khác nhằm mục đích chống lại điều này. Nhưng vẫn chưa rõ liệu hệ thống tư pháp – một hệ thống tư pháp đang nỗ lực truy tìm tận gốc hầu hết các tội phạm tình dục – có thể quản lý một ngành phát triển nhanh như AI hay không.

Thành thật mà nói, thật khó để tưởng tượng một cách tiếp cận mà OpenAI có thể áp dụng đối với nội dung khiêu dâm do AI tạo ra mà không gặp nhiều rủi ro. Có lẽ OpenAI sẽ xem xét lại lập trường của mình một lần nữa. Hoặc có thể – ngược lại – nó sẽ tìm ra một cách tốt hơn. Dù kết cục thế nào đi nữa, có vẻ như chúng ta sẽ sớm phát hiện ra thôi.

Dưới đây là một số câu chuyện AI đáng chú ý khác trong vài ngày qua:

  • Kế hoạch AI của Apple: Giám đốc điều hành Apple Tim Cook đã tiết lộ một số thông tin nhỏ về kế hoạch phát triển AI của công ty trong cuộc họp thu nhập tuần trước với các nhà đầu tư. Sarah có toàn bộ câu chuyện.
  • GenAI doanh nghiệp: Các CEO của Dropbox và Figma – lần lượt là Drew Houston và Dylan Field – đã đầu tư vào Lamini, một công ty khởi nghiệp xây dựng công nghệ AI tổng quát cùng với nền tảng lưu trữ AI tổng quát nhắm vào các tổ chức doanh nghiệp.
  • AI cho dịch vụ khách hàng: Airbnb đang tung ra một tính năng mới cho phép chủ nhà lựa chọn các đề xuất do AI cung cấp để trả lời câu hỏi của khách, chẳng hạn như gửi cho khách hướng dẫn thanh toán của chỗ nghỉ.
  • Microsoft hạn chế sử dụng AI: Microsoft đã tái khẳng định lệnh cấm các sở cảnh sát Hoa Kỳ sử dụng AI tổng quát để nhận dạng khuôn mặt. Nó cũng cấm cơ quan thực thi pháp luật toàn cầu áp dụng công nghệ nhận dạng khuôn mặt trên máy ảnh đeo trên người và camera hành trình.
  • Tiền cho đám mây: Các nhà cung cấp đám mây thay thế như CoreWeave đang huy động hàng trăm triệu đô la khi sự bùng nổ AI tổng quát thúc đẩy nhu cầu về phần cứng chi phí thấp để đào tạo và chạy các mô hình.
  • RAG có giới hạn của nó: Ảo giác là một vấn đề lớn đối với các doanh nghiệp đang tìm cách tích hợp AI vào hoạt động của mình. Một số nhà cung cấp tuyên bố rằng họ có thể loại bỏ chúng bằng kỹ thuật gọi là RAG. Nhưng những tuyên bố đó đã được phóng đại quá mức, thực sự là của bạn.
  • Tóm tắt cuộc họp của Vogels: CTO của Amazon, Werner Vogels, đã mở nguồn ứng dụng tóm tắt cuộc họp có tên là Distill. Như bạn có thể mong đợi, nó dựa chủ yếu vào các sản phẩm và dịch vụ của Amazon.
Trả lời bằng tài khoản Facebook:

Trả lời

Email của bạn sẽ không được hiển thị công khai. Các trường bắt buộc được đánh dấu *