Công nhân đã lọc nội dung độc hại cho ChatGPT với giá 2 đô la một giờ

0
Công nhân đã lọc nội dung độc hại cho ChatGPT với giá 2 đô la một giờ

Kiểm duyệt nội dung là một công việc khét tiếng khó chịuvà ngành công nghiệp gia công lao động đang phát triển xung quanh nó thường xuyên phải đối mặt với sự giám sát gay gắt về đạo đức trong cách tiếp cận của nó đối với việc buộc người lao động phải chịu góc tối nhất của internet. Vào thứ Tư, Thời gian đã công bố một cuộc điều tra mới đi sâu vào Sama, một công ty gần đây đã cung cấp cho OpenAI những người lao động chỉ có nhiệm vụ đọc một số nội dung tồi tệ nhất mà Internet cung cấp.

Mặc dù mục tiêu tổng thể của nỗ lực là phát triển các bộ lọc AI nội bộ hữu ích và cần thiết cho chương trình ChatGPT nổi tiếng, nổi tiếng, nhưng các nhân viên cũ của Sama cho biết giờ đây họ bị PTSD do nhiệm kỳ của họ sàng lọc hàng nghìn đoạn trích văn bản trực tuyến khủng khiếp mô tả tấn công tình dục, loạn luân, thú tính, lạm dụng trẻ em, tra tấn và giết người, theo báo cáo mới. Chưa kể, báo cáo nói rằng những nhân viên này, chủ yếu ở Kenya, được trả ít hơn 2 đô la một giờ.

[Related: Popular youth mental health service faces backlash after experimenting with AI-chatbot advice.]

ChatGPT của OpenAI nhanh chóng trở thành một trong những đột phá công nghệ được nhắc đến nhiều nhất trong năm ngoái nhờ khả năng tạo gần như ngay lập tức văn bản sáng tạo từ hầu như bất kỳ lời nhắc nào của con người. Mặc dù các chương trình tương tự đã tồn tại nhưng chúng thường có xu hướng phát tán nội dung mang tính thù hận và lạm dụng nghiêm trọng do chúng không có khả năng xác định bên trong vật liệu độc hại giữa vô số bài viết trên internet được sử dụng làm điểm tham chiếu chung.

với rồi hơn 1 triệu người dùng, ChatGPT phần lớn không gặp phải những vấn đề như vậy (mặc dù vẫn còn nhiều lo lắng khác), phần lớn là nhờ hệ thống lọc AI tích hợp bổ sung nhằm loại bỏ phần lớn sự tồi tệ của Internet. Nhưng bất chấp tiện ích của chúng, các chương trình AI hiện tại không đủ tự nhận thức để tự nhận thấy tài liệu không phù hợp—trước tiên chúng yêu cầu con người đào tạo để gắn cờ tất cả các loại từ khóa và chủ đề theo ngữ cảnh.

Được tính vào trang chủ của nó Sama, một công ty dán nhãn dữ liệu có trụ sở tại Hoa Kỳ sử dụng công nhân ở Kenya, Ấn Độ và Uganda cho các doanh nghiệp ở Thung lũng Silicon, tuyên bố đã giúp đỡ như một “kỷ nguyên tiếp theo của sự phát triển trí tuệ nhân tạo”. 50.000 người trên toàn thế giới vượt lên trên nghèo đói thông qua các cơ hội việc làm. Dựa theo Thời gianNghiên cứu của ông có nguồn gốc từ hàng trăm trang tài liệu nội bộ, hợp đồng và cuống phiếu lương của công nhân, tuy nhiên, chi phí cho hàng chục công nhân lên tới mức tự mô tả là “sự tra tấn” đối với mức lương tính theo giờ mang về nhà từ 1,32 đô la đến 2 đô la.

[Related: OpenAI’s new chatbot offers solid conversations and fewer hot takes.]

Người lao động tố cáo Thời gian rằng họ đã làm việc quá giờ quy định, sàng lọc 150-250 đoạn văn bản khó hiểu mỗi ngày và gắn cờ nội dung để đào tạo bộ lọc AI của ChatGPT. Mặc dù các dịch vụ tư vấn sức khỏe được báo cáo là có sẵn, nhưng các nhân viên của Sama vẫn phải trải qua những tổn thất về tinh thần và cảm xúc kéo dài vượt quá khả năng của các dịch vụ đó. Trong một tuyên bố cung cấp cho Thời gianSama phản đối khối lượng công việc và cho biết các nhà thầu của họ chỉ được phép xem xét khoảng 70 văn bản trong một ca.

“Các công ty này giới thiệu AI và tự động hóa cho chúng tôi như thể nó loại bỏ nhân công, nhưng thực tế thì điều đó hiếm khi xảy ra,” Pa-ri Mácmột nhà phê bình văn hóa công nghệ và là tác giả của Đường đến hư không: Thung lũng Silicon đã sai lầm gì về giao thông vận tải, giải thích với PopSci. “… Lại là câu chuyện về những người kiểm duyệt nội dung trên Facebook—một số người trong số họ cũng được Sama thuê ở Kenya.”

Marx lập luận rằng cách duy nhất để tránh những hình thức bóc lột tinh thần và thể chất này là cần phải có một cuộc tái cấu trúc văn hóa quy mô lớn trong ngành công nghệ, một điều mà hiện tại cảm thấy rất khó xảy ra. “Đây là mô hình phát triển AI mà các công ty này đã chọn,” họ viết, “[and] thay đổi nó sẽ đòi hỏi phải thay đổi hoàn toàn các mục tiêu và giả định cơ bản về những gì họ đang làm.”

Sama ban đầu đã ký hợp đồng kiểm duyệt nội dung với OpenAI trị giá 200.000 đô la xung quanh dự án, nhưng được cho là đã sớm cắt đứt quan hệ để tập trung vào “các giải pháp chú thích dữ liệu thị giác máy tính”. OpenAI hiện đang đàm phán với các nhà đầu tư để huy động vốn với mức định giá 29 tỷ đô la, 10 tỷ đô la trong số đó có thể đến từ Microsoft. Reuters OpenAI đã báo cáo trước đây dự kiến ​​doanh thu 200 triệu đô la trong năm nay và lên tới 1 tỷ đô la vào năm 2024. Như báo cáo mới nhất tiết lộ một lần nữa, những lợi nhuận này thường đi kèm với chi phí hậu trường lớn cho những người lao động hàng ngày.

bài viết tương tự

Leave a Reply