Gemini AI của Google gặp khó khăn trong việc tạo hình ảnh, hứa hẹn sẽ cải thiện

Google thừa nhận những thiếu sót trong công cụ tạo hình ảnh Gemini AI sau khi tính năng này tạo ra những hình ảnh không chính xác và có khả năng gây hại về con người. Công ty đã tạm thời đình chỉ tính năng này trong khi tiến hành sửa lỗi. Tranh cãi bắt nguồn từ xu hướng tạo ra các hình ảnh đa dạng của Gemini, ngay cả khi người dùng yêu cầu các nhân vật hoặc kịch bản lịch sử cụ thể. Mặc dù có ý nghĩa bao hàm, điều này dẫn đến kết quả không chính xác về mặt lịch sử và đôi khi gây khó chịu.

Trong một bài đăng trên blog, Phó chủ tịch cấp cao Prabhakar Raghavan đã giải thích những sai lầm và cam kết sẽ cải tiến công nghệ. “Chúng tôi không muốn Gemini từ chối tạo hình ảnh của bất kỳ nhóm cụ thể nào… [nhưng] nó sẽ mắc sai lầm,” anh viết.

Đây là sự cố xảy ra với Google Gemini:

• Sự điều chỉnh của Google để đảm bảo rằng Gemini cho thấy nhiều người đã không giải thích được những trường hợp đáng lẽ phải không hiển thị một phạm vi
• Theo thời gian, mô hình trở nên thận trọng hơn chúng tôi dự định và từ chối trả lời hoàn toàn một số lời nhắc nhất định - hiểu sai một số lời nhắc rất khó chịu là nhạy cảm.
• Hai điều này đã khiến người mẫu bù đắp quá mức trong một số trường hợp và quá bảo thủ trong một số trường hợp khác, dẫn đến những hình ảnh gây bối rối và sai lệch.

Những thách thức của việc tạo hình ảnh AI:

Sự cố này nêu bật thách thức đang diễn ra trong việc cân bằng độ chính xác và khả năng hiển thị trong các mô hình tạo hình ảnh AI. Cuộc đấu tranh của Google phản ánh những tranh cãi tương tự với các công cụ tạo hình ảnh phổ biến khác.