Công ty khởi nghiệp do Microsoft tài trợ có thể đã sử dụng công nghệ nhận dạng khuôn mặt của họ để giám sát hàng loạt ở Israel

Microsoft luôn ủng hộ việc sử dụng công nghệ AI có đạo đức, trong khi bán công nghệ tương tự để sử dụng một cách đáng ngờ cho các chính phủ, cho rằng quy định nên xuất phát từ quy trình dân chủ hơn là các mối quan tâm về đạo đức của nhân viên và cổ đông.

Đôi khi, thói đạo đức giả của vị trí này được phơi bày, và trong dịp này, nó bị buộc tội rằng một Công ty khởi nghiệp do Microsoft tài trợ, AnyVision, đang sử dụng công nghệ nhận dạng khuôn mặt AI để theo dõi những người Palestine làm việc ở Israel xung quanh Bờ Tây.

Theo một báo cáo của NBC Anyvision sử dụng mạng lưới hàng nghìn camera xung quanh Bờ Tây để theo dõi chuyển động của người Palestine bằng hệ thống có tên “Google Ayosh”, trong đó “Ayosh” dùng để chỉ các vùng lãnh thổ Palestine bị chiếm đóng và “Google” biểu thị khả năng của công nghệ này trong việc tìm kiếm những người như nếu chúng là các mục trên tìm kiếm của Google.

AnyVision đã giành được giải thưởng quốc phòng hàng đầu tại Israel vào năm 2018 và được Bộ trưởng Quốc phòng Israel khen ngợi vì đã ngăn chặn “hàng trăm vụ tấn công khủng bố” bằng cách sử dụng “lượng lớn dữ liệu”.

AnyVision chỉ thừa nhận sử dụng công nghệ sinh trắc học của họ để kiểm soát qua biên giới và tuyên bố công ty là “công ty đạo đức nhất mà con người biết đến”.

A tài liệu trên trang web của Chính phủ Israel, tuy nhiên, liệt kê các tính năng của AnyVision Better Tomorrow như:

1.  Nhận dạng khuôn mặt Tự nhiên: Không cần đăng ký các cá nhân. Tất cả các cá nhân đi qua trường xem được phát hiện tự động mà không cần phải dừng lại hoặc gián đoạn. Hệ thống chỉ yêu cầu 45 × 45 pixel để phát hiện và nhận dạng khuôn mặt.
2. One-to-Many: có nghĩa là một cảm biến (CCTV cố định, PTZ, Thiết bị di động và các thiết bị khác) trích xuất và nhận dạng tất cả các khuôn mặt trong trường nhìn (so với công nghệ thông thường cho phép một cá nhân trên một cảm biến).
3. Sử dụng camera quan sát hiện có: sử dụng cơ sở hạ tầng camera hiện có (tại chỗ), không yêu cầu bất kỳ camera đặc biệt hoặc nâng cấp cơ sở hạ tầng nào.
4. Quy mô hàng loạt: Được thiết kế để phát hiện và nhận dạng đám đông theo thời gian thực, với thời gian phát hiện là 0.2 giây cho mỗi cơ sở dữ liệu lên đến 300 triệu cá nhân.
5. Sự khác biệt giữa các sắc tộc: Mạng lưới thần kinh của chúng tôi được đào tạo để phát hiện và nhận dạng khuôn mặt của các sắc tộc khác nhau.
6. Vật cản khuôn mặt: Bất biến để ngụy trang, kính râm, râu, mũ, trang điểm, v.v.
7. Độ chính xác và độ tin cậy: Mức độ chính xác lên đến 99.78% tỷ lệ dương tính thật và ít hơn 1 lần báo động dương tính giả trên 25,000
   người.

Microsoft đã trả lời báo cáo bằng cách thuê cựu Bộ trưởng Tư pháp Hoa Kỳ Eric Holder để điều tra liệu việc sử dụng công nghệ nhận dạng khuôn mặt như AnyVision Better Tomorrow có tuân thủ các nguyên tắc đạo đức của nó hay không.

Microsoft nói với NBC "Microsoft xem xét những cáo buộc giám sát hàng loạt này một cách nghiêm túc vì chúng sẽ vi phạm các nguyên tắc nhận dạng khuôn mặt của chúng tôi."

Theo các nguyên tắc này, Microsoft sẽ “ủng hộ các biện pháp bảo vệ quyền tự do dân chủ của mọi người trong các tình huống giám sát thực thi pháp luật và sẽ không triển khai công nghệ nhận dạng khuôn mặt trong các tình huống mà chúng tôi tin rằng sẽ khiến các quyền tự do này gặp rủi ro”.

“Nếu chúng tôi phát hiện ra bất kỳ vi phạm nào đối với các nguyên tắc của mình, chúng tôi sẽ kết thúc mối quan hệ của mình”.

Ở khía cạnh rộng hơn, Microsoft đã ủng hộ một dự luật của Thượng viện Hoa Kỳ yêu cầu lệnh của tòa án trước khi cơ quan thực thi pháp luật liên bang có thể sử dụng công nghệ để giám sát có mục tiêu, liên tục. Tuy nhiên, Neema Singh Guliani, cố vấn lập pháp cấp cao của Liên minh Tự do Dân sự Hoa Kỳ, cho biết dự luật này “không bảo vệ được quyền riêng tư của mọi người một cách thảm hại”.

Tuy nhiên, Microsoft hiện đang bán công nghệ tương tự cho AnyVision nhưng hướng đến giám sát nơi làm việc, cho thấy bản chất hai lưỡi của công nghệ này.

Đã có những báo cáo gần đây về việc công nghệ nhận dạng khuôn mặt đang được sử dụng ở Trung Quốc cho cái được gọi là phân biệt chủng tộc tự động, nơi các thực hành và hạn chế phân biệt đối xử đang được áp dụng cho người dân Uyghurs ở đó bằng cách sử dụng công nghệ nhận dạng khuôn mặt, được hỗ trợ bởi công việc của các học giả AI của Hoa Kỳ, nhân dịp làm việc cho Microsoft.

Độc giả của chúng tôi có nghĩ rằng Microsoft, người đứng đầu danh sách các công ty đạo đức nhất của Forbes, đang hành động theo các nguyên tắc đã nêu của họ? Hãy cho chúng tôi biết bên dưới.