Bùng nổ nhu cầu dùng deepfake nói chuyện với người đã khuất tại Trung Quốc

Tuần một lần,ùngnổnhucầudùngdeepfakenóichuyệnvớingườiđãkhuấttạiTrungQuốlịch bóng đá Sun Kai lại gọi video cho mẹ để nói về công việc, áp lực mình gặp phải ở tuổi trung niên và những suy nghĩ mà anh không thể chia sẻ được với vợ. Thi thoảng, mẹ sẽ đưa ra lời khuyên cho con trai nhưng hầu hết thời gian, bà chỉ lắng nghe. Đó là vì mẹ của Sun đã qua đời 5 năm trước. Người mà anh nói chuyện những năm qua chỉ là bản sao kỹ thuật số của mẹ.

Sau khi mẹ qua đời đột ngột năm 2019, Sun muốn tìm cách giữ liên lạc với bà. Do đó, anh tìm đến một nhóm tại Silicon Intelligence, công ty AI có trụ sở tại Nam Kinh, Trung Quốc mà anh đồng sáng lập năm 2017. Anh đưa cho họ bức ảnh và một số đoạn ghi âm của mẹ. Sau 4 tháng nghiên cứu các công cụ tổng hợp, họ đã tạo ra một ảnh đại diện (avatar) với dữ liệu mà Sun cung cấp. Từ đó, anh có thể gặp và nói chuyện với phiên bản kỹ thuật số của mẹ thông qua ứng dụng di động.

Thời điểm đó, công nghệ AI còn non trẻ và bản sao của mẹ chỉ nói được vài dòng viết sẵn. Dù sao, Sun cũng vô cùng xúc động.

Trò chuyện với “người âm”

Có rất nhiều người như Sun muốn sử dụng AI để giữ liên lạc với người thân yêu không còn trên thế gian. Nhu cầu này đặc biệt mạnh mẽ ở Trung Quốc, nơi ít nhất 6 công ty hiện đang cung cấp dịch vụ này và hàng nghìn người đã trả tiền cho họ. Dù công nghệ chưa hoàn hảo, nó đang dần cải thiện và có nhiều công cụ sẵn có hơn, chi phí rẻ hơn để công chúng dễ dàng tiếp cận.

Một số người đặt câu hỏi liệu tương tác với các bản sao AI của người chết có thực sự là một cách lành mạnh để xoa dịu nỗi đau hay không và khía cạnh pháp lý cũng như đạo đức của công nghệ là gì. Ý tưởng này cũng khiến rất nhiều người khó chịu. Nhưng như người đồng sáng lập khác của Silicon Intelligence, CEO Sima Huapeng, nói, "Ngay cả khi chỉ có 1% người Trung Quốc có thể chấp nhận AI nhân bản người đã mất, đó vẫn là một thị trường khổng lồ”.

Chỉ trong ba năm qua, lĩnh vực phát triển avatar AI của Trung Quốc đã phát triển nhanh chóng. Theo Shen Yang, Giáo sư nghiên cứu AI và truyền thông tại Đại học Thanh Hoa, các bản sao được cải tiến từ video dài vài phút đến avatar live 3D có thể tương tác với mọi người.

Trong khi đó, Sima chỉ ra, chi phí nhân bản AI năm ngoái là 2.000 USD đến 3.000 USD nhưng năm nay chỉ còn vài trăm USD nhờ vào cuộc cạnh tranh bằng giá giữa các công ty AI trong nước. Tại Silicon Intelligence, ban đầu họ tập trung vào sử dụng công nghệ chuyển văn bản thành giọng nói để tạo âm thanh rồi dùng những giọng nói đó trong các ứng dụng như cuộc gọi tự động. Tuy nhiên, sau bước ngoặt của Sun, họ chuyển hướng sang tạo ra các avatar AI. Chính quyết định đó đã biến họ thành một trong những công ty hàng đầu Trung Quốc trên thị trường sáng tạo người có ảnh hưởng (KOL) AI.

Họ đã tạo avatar cho hàng trăm nghìn video và kênh phát trực tuyến, nhưng Sima cho biết gần đây họ ghi nhận khoảng 1.000 khách hàng sử dụng nó để tái tạo một người đã qua đời. Nhờ chất lượng không ngừng được nâng cấp, ngày càng nhiều người tìm đến nó hơn.

Ảnh thờ AI

Việc kinh doanh deepfake được xây dựng dựa trên lịch sử văn hóa lâu đời của Trung Quốc về giao tiếp với người chết. Các gia đình thường treo ảnh thờ người thân đã mất trong nhà. Zhang Zewei, nhà sáng lập Super Brain, chia sẻ, ông và nhóm của mình muốn hiện đại hóa truyền thống đó bằng một "khung ảnh AI". Họ tạo ra avatar của người đã mất rồi tải sẵn trên máy tính bảng Android, trông giống như một khung ảnh khi dựng đứng. Khách hàng có thể chọn một hình ảnh chuyển động, nói những từ lấy từ cơ sở dữ liệu ngoại tuyến hoặc từ một mô hình ngôn ngữ lớn (LLM).

"Về bản chất, nó không khác nhiều so với một bức chân dung truyền thống, ngoại trừ việc có tính tương tác", Zhang nói. Công ty của Zhang đã tạo ra các bản sao kỹ thuật số cho hơn 1.000 khách hàng kể từ tháng 3/2023 và tính phí từ 700 đến 1.400 USD, tùy thuộc vào dịch vụ. Họ dự kiến sớm phát hành một sản phẩm chỉ dành cho ứng dụng để người dùng có thể truy cập avatar trên điện thoại và giảm chi phí xuống còn khoảng 140 USD.

Theo Zhang, các sản phẩm của ông có mục đích “trị liệu”."Khi thực sự nhớ ai đó hoặc cần sự an ủi trong những ngày lễ nhất định, bạn có thể nói chuyện với AI và chữa lành vết thương bên trong", ông nói.

Ngoài ra, Super Brain còn cung cấp một dịch vụ video deepfake, trong đó một nhân viên công ty hoặc một nhà trị liệu đóng vai người thân đã qua đời. Sử dụng deepface, một công cụ mã nguồn mở phân tích các đặc điểm trên khuôn mặt, khuôn mặt của người quá cố được tái tạo dưới dạng 3D và hoán đổi cho khuôn mặt của người sống bằng bộ lọc thời gian thực.

Ở đầu bên kia của cuộc gọi thường là một thành viên lớn tuổi trong gia đình, người có thể không biết rằng người thân đã mất và gia đình sắp xếp cuộc trò chuyện này để “đánh lừa”.

Jonathan Yang, một cư dân Nam Kinh làm việc trong ngành công nghệ, đã trả tiền cho dịch vụ này vào tháng 9/2023. Chú của anh qua đời trong một tai nạn xây dựng, nhưng gia đình do dự không muốn nói với bà của Yang, 93 tuổi và sức khỏe kém. Họ lo lắng bà sẽ không sống nổi sau tin tức tàn khốc.

Vì vậy, Yang đã trả 1.350 USD để thực hiện ba cuộc gọi deepfake với người chú đã khuất. Anh đưa cho Super Brain một số hình ảnh và video về chú để đào tạo mô hình. Sau đó, vào ba ngày lễ ở Trung Quốc, một nhân viên của Super Brain đã gọi video cho bà của Yang và nói với bà, trong vai chú của anh, rằng mình đang bận làm việc ở một thành phố xa xôi và sẽ không thể trở về nhà, ngay cả trong dịp Tết Nguyên đán. Theo Yang, bà của anh không nghi ngờ bất cứ điều gì. Dù các thành viên trong gia đình bất đồng về chuyện dùng AI thế thân, cuối cùng họ đều đồng ý đây là điều tốt nhất cho sức khỏe của bà.

Đối với Yang, người theo sát xu hướng ngành công nghiệp AI, việc tạo ra bản sao của người chết là một trong những ứng dụng tốt nhất của công nghệ. "Nó đại diện tốt nhất cho sự ấm áp của AI," anh nói. Sức khỏe của bà anh đã được cải thiện và có thể đến một ngày nào đó, họ sẽ nói với bà sự thật. Tuy nhiên, cho đến khi ấy, anh có thể mua một avatar AI của chú mình để bà nói chuyện bất cứ khi nào.

Đạo đức và pháp lý

Ngay cả khi công nghệ nhân bản AI được cải thiện, vẫn có một số rào cản đáng kể ngăn cản nhiều người sử dụng nó để nói chuyện với người thân đã qua đời.

Về mặt công nghệ, có những hạn chế đối với những gì các mô hình AI có thể tạo ra. Hầu hết các LLM có thể xử lý các ngôn ngữ chiếm ưu thế như tiếng Quan Thoại và tiếng Quảng Đông, nhưng chúng không thể sao chép nhiều phương ngữ ở Trung Quốc. Việc tái tạo các chuyển động cơ thể và biểu cảm khuôn mặt phức tạp trong các mô hình 3D cũng phức tạp và tốn kém.

Tiếp đến là vấn đề dữ liệu đào tạo. Không giống như nhân bản một người vẫn còn sống, các bản sao AI sau khi một người chết đi phải dựa vào bất kỳ video hoặc hình ảnh nào có sẵn. Nhiều khách hàng không có dữ liệu chất lượng cao, hoặc không đủ, để kết quả thỏa mãn.

Thêm vào đó, vô số câu hỏi đạo đức được đặt ra. Một người chết có đồng ý được sao chép kỹ thuật số hay không? Hiện tại, các công ty như Super Brain và Silicon Intelligence dựa vào sự cho phép của các thành viên gia đình, nhưng nếu họ không đồng ý thì sao? Và nếu một avatar AI tạo ra câu trả lời không phù hợp, ai là người chịu trách nhiệm?

Ngoài ra, còn có tác động tiêu cực đến sức khỏe tâm thần của khách hàng. Dù một số người như Sun thấy được chữa lành khi trò chuyện với người đã khuất, không phải ai cũng nghĩ như vậy. Theo Giáo sư Shen, tranh cãi nằm ở chỗ nếu liên tục nhân bản người thân vì nhớ họ, chúng ta sẽ luôn nằm trong tình trạng tang tóc và không chấp nhận được thực tế họ không còn trên đời. Chẳng hạn, một người góa bụa thường xuyên trò chuyện với phiên bản kỹ AI của vợ/chồng có thể bị kìm hãm trong việc tìm kiếm một mối quan hệ mới.

"Khi ai đó qua đời, chúng ta có nên thay thế cảm xúc thật của mình bằng những cảm xúc hư cấu và nán lại trong trạng thái cảm xúc đó không”,Shen đặt câu hỏi.

(Theo Technology Review)