Nếu Trí tuệ nhân tạo đã có khả năng tạo ra các hình minh họa, ảnh, văn bản và các nội dung khác một cách hoàn hảo như thể chúng được phát triển bởi con người, thì chắc chắn nó sẽ đạt đến nội dung khiêu dâm. Bởi vì, dù nhân tạo đến đâu, nó là công nghệ do con người lập trình và ngoài khả năng tiếp cận các ý kiến, tin tức và thông tin chưa từng có, một phần lớn những gì có sẵn trên internet được hình thành chính xác bởi tài liệu khiêu dâm. Các công cụ AI mới đã cung cấp khả năng tạo nội dung khiêu dâm bằng “rô-bốt”, mở ra một thị trường ảo béo bở và gây tranh cãi.

Các hệ thống Trí tuệ nhân tạo đã có khả năng tạo ra mọi loại nội dung – bao gồm cả nội dung khiêu dâm

-Billie Eilish nói 'nội dung khiêu dâm là điều đáng xấu hổ'. 'Đã phá hủy bộ não'

Nghiên cứu chỉ ra rằng từ 13% đến 20% tìm kiếm trên internet được thực hiện để tìm kiếm nội dung khiêu dâm – do đó, cuộc gặp gỡ giữa AI và nội dung khiêu dâm cũng gây tranh cãi ở mức độ tương tự , nó cũng có vẻ không thể tránh khỏi. Ví dụ được báo cáo gần đây nhất là Khuếch tán không ổn định , một Trí tuệ nhân tạo tạo ra nội dung tập trung vào nội dung “người lớn” làm điểm khác biệt. Hoạt động như một diễn đàn nguồn mở, nó đã được xây dựng như một “máy chủ dành riêng cho việc tạo và phổ biến tài liệu NSFW do AI tạo ra”, như kênh của nó trên Discord cho biết.

-Google ra mắttrí tuệ nhân tạo để xác định nội dung khiêu dâm trẻ em

Về cơ bản, hệ thống đã tận dụng mã nguồn mở của Stable Diffusion , một AI được phát triển để tạo hình ảnh từ văn bản, điều chỉnh nó thành nội dung khiêu dâm – và cho thị trường tỷ đô này. Tuy nhiên, tranh cãi không chỉ nằm ở việc phân bổ tài chính cho một điều mới lạ vẫn chưa chắc chắn: công nghệ này có khả năng tạo ra các hình ảnh khỏa thân chân thực thuộc mọi thể loại – bao gồm cả tài liệu tội phạm –, phim hoạt hình khiêu dâm và thậm chí cả cái gọi là deepfakes , nội dung sai lệch áp dụng kỹ thuật số khuôn mặt và cơ thể của những người nổi tiếng trên ảnh và cảnh khiêu dâm.

Cuộc tranh luận gây tranh cãi nhất về chủ đề này liên quan đến việc kiểm soát nội dung được tạo ra

-'Hereafter AI' hứa hẹn rằng chúng ta sẽ có thể 'nói chuyện' với người chết

Máy chủ tính phí đăng ký với số tiền khác nhau, tùy theo quyền truy cập để sản xuất và chia sẻ sản phẩm được tạo nội dung khiêu dâm của AI và được cho là đã có hàng nghìn thành viên và được coi là kênh phát triển nhanh nhất trên Discord . Thông qua Unstable Diffusion , người dùng đã sản xuất hơn 4,37 triệu tài liệu chưa phát hành, trong các danh mục như nội dung khiêu dâm nam, nội dung khiêu dâm nữ, phim hoạt hình, BDSM, v.v.

-Ex-Disney nói nội dung khiêu dâm ngành ít xuống cấp hơn Hollywood

Những người chịu trách nhiệm về bot đảm bảo rằng mọitài liệu sản xuất được kiểm soát và chỉ có nội dung "hư cấu và hợp pháp" được tạo bởi máy chủ. Tuy nhiên, giữa lời hứa và thực tế, vẫn còn nhiều câu hỏi bỏ ngỏ liên quan đến tính công bằng của các hoạt động kinh tế, việc sử dụng tác phẩm của người khác, giám sát nội dung, bản quyền cũng như các hành vi phạm tội có thể xảy ra.

Việc sử dụng AI cho nội dung khiêu dâm có thể tạo điều kiện thuận lợi cho việc tạo ra các tài liệu tội phạm và deepfake