0
Chưa có sản phẩm trong giỏ!
0
Chưa có sản phẩm trong giỏ!

OpenAI lo người dùng 'yêu' ChatGPT

Theo Open AI, việc giao tiếp nhiều với ChatGPT có thể khiến người dùng trở nên kém khéo léo hoặc ít muốn tương tác với con người hơn.

Theo OpenAI, việc giao tiếp xã hội với AI có thể khiến người dùng trở nên ít muốn tương tác với con người hơn - Ảnh minh họa: GETTY IMAGES

Theo OpenAI, việc giao tiếp xã hội với AI có thể khiến người dùng trở nên ít muốn tương tác với con người hơn - Ảnh minh họa: GETTY IMAGES

OpenAI mới đây bày tỏ lo ngại tính năng giọng nói chân thực của trí tuệ nhân tạo (AI) của hãng này có thể khiến con người hình thành mối quan hệ gần gũi với AI, gây ảnh hưởng đến tương tác xã hội giữa con người với nhau.

Công ty có trụ sở tại San Francisco đã dẫn chứng các nghiên cứu cho thấy việc trò chuyện với AI như thể đang nói chuyện với một con người có thể dẫn đến sự tin tưởng không đúng chỗ. Họ cũng cho rằng chất lượng giọng nói cao của GPT-4o có thể làm gia tăng tác động này.

"Nhân hóa là quá trình gán những hành vi và đặc điểm của con người cho các thực thể phi nhân, chẳng hạn như các mô hình AI", OpenAI cho biết trong một báo cáo về độ an toàn của phiên bản ChatGPT-4o. "Rủi ro này có thể gia tăng bởi khả năng âm thanh của GPT-4o, giúp các tương tác với mô hình trở nên giống con người hơn".

 

OpenAI nhận thấy những người thử nghiệm trò chuyện với AI theo cách thể hiện mối quan hệ gần gũi, chẳng hạn như than thở rằng đó là ngày cuối cùng họ có thể nói chuyện với AI. 

Họ cho rằng những trường hợp này có vẻ vô hại nhưng cần được nghiên cứu kỹ hơn để xem chúng có thể phát triển như thế nào trong thời gian dài.

Theo dự đoán của Open AI, việc giao tiếp xã hội với AI cũng có thể khiến người dùng trở nên kém khéo léo hoặc ít muốn tương tác với con người hơn.

 

"Việc tương tác kéo dài với mô hình này có thể ảnh hưởng đến các chuẩn mực xã hội", báo cáo cho biết. "Chẳng hạn, các mô hình của chúng tôi thường rất lịch sự, cho phép người dùng ngắt lời và 'chiếm mic' bất cứ lúc nào, điều này là bình thường đối với AI, nhưng sẽ không đúng chuẩn mực trong tương tác giữa con người".

Ngoài ra, khả năng AI ghi nhớ chi tiết trong quá trình trò chuyện và thực hiện các nhiệm vụ cũng có thể khiến con người trở nên phụ thuộc quá mức vào công nghệ.

Các nhóm thử nghiệm tính năng giọng nói của ChatGPT-4o cũng đã phát hiện rằng mô hình này có thể bị kích hoạt để lặp lại thông tin sai lệch và tạo ra các thuyết âm mưu, gây lo ngại rằng AI có thể thuyết phục người dùng tin vào những điều sai sự thật.

Vào tháng 6, OpenAI đã buộc phải xin lỗi nữ diễn viên Scarlett Johansson sau khi công ty sử dụng một giọng nói rất giống với giọng của cô trong phiên bản chatbot mới nhất.

Mặc dù OpenAI phủ nhận rằng giọng nói họ sử dụng là của Johansson, tình hình trở nên phức tạp khi CEO Sam Altman đăng một thông điệp duy nhất trên mạng xã hội để giới thiệu mô hình mới này - "Her" (Cô ấy).

Johansson đã lồng tiếng cho một nhân vật AI trong bộ phim "Her", bộ phim mà Altman đã từng chia sẻ là tác phẩm yêu thích nhất của ông về trí tuệ nhân tạo. Bộ phim năm 2013 có sự tham gia của Joaquin Phoenix. Tài tử nổi tiếng này thủ vai một người đàn ông nảy sinh tình yêu với một trợ lý giọng nói AI sau khi ly hôn.

Cần nghiêm túc xem xét ảnh hưởng của ChatGPT tới con người

Alon Yamin, đồng sáng lập kiêm CEO của nền tảng phát hiện đạo văn bằng AI, Copyleaks, cho biết: "Những lo ngại gần đây mà OpenAI chia sẻ về khả năng phụ thuộc vào chế độ giọng nói của ChatGPT cho thấy một câu hỏi mà nhiều người đã bắt đầu đặt ra: Đã đến lúc phải dừng lại và xem xét công nghệ này ảnh hưởng thế nào đến tương tác và mối quan hệ giữa con người?".

Ông nhấn mạnh rằng AI không bao giờ nên thay thế tương tác thực tế giữa con người.

OpenAI cho biết họ sẽ tiếp tục thử nghiệm để hiểu rõ hơn về cách mà khả năng giọng nói trong AI có thể khiến con người trở nên gắn bó về mặt cảm xúc.

 

Theo TTXVN

Nguồn: Báo Tuổi Trẻ Online

Bài viết cùng danh mục:

Apple dự định đầu tư vào OpenAI
Apple dự định đầu tư vào OpenAI
31.08.2024

Sau khi công bố hợp tác đưa ChatGPT lên iOS...

Lý giải cho thành công của Black Myth: Wukong - Tỏa sáng từ
Lý giải cho thành công của Black Myth: Wukong - Tỏa sáng từ "trong trứng"?
30.08.2024

Black Myth: Wukong vẫn đang là cái tên có sức...

Sếp Meta nói về phát triển AI có trách nhiệm
Sếp Meta nói về phát triển AI có trách nhiệm
29.08.2024

Tiến sĩ Rafael Frankel chia sẻ định hướng phát triển...

Đã có thể chuyển nhạc từ Apple Music sang YouTube Music
Đã có thể chuyển nhạc từ Apple Music sang YouTube Music
27.08.2024

Apple giúp người dùng chuyển danh sách phát nhạc sang...

Tags

FPT
AI
iOS
NUC
AWS
5G
RAR
ROG
HP
VNG
MSI
LG
AKA
GPU
TV
IoT
2G
X
BYD
NCP
×
×
Bạn vừa thêm Giầy cao gót Valentino 07 vào giỏ
Hiện đang có 3 sản phẩm trong giỏ hàng
SẢN PHẨM ĐƠN GIÁ SỐ LƯỢNG THÀNH TIỀN
Giầy cao gót Valentino 07 36 12000000
36000000

Thêm vào giỏ hàng thành công!

Xem giỏ hàng

Product name

100000đ
Xem giỏ hàng