Cộng đồng các nhà khoa học vừa đồng loạt tẩy chay Viện KAIST ở Hàn Quốc vì nghi ngờ viện này cộng tác với công ty quốc phòng nhằm sản xuất “robot giết người”.

Robot sát thủ có thể đe dọa sự tồn tại của con người theo các chuyên gia về AI. (Ảnh: Science Alert)

Hanwha Systems là một trong những nhà sản xuất vũ khí lớn nhất Hàn Quốc và chế tạo bom đạn chùm bị cấm ở 120 nước theo hiệp định quốc tế. Hàn Quốc, cùng với Mỹ, Nga và Trung Quốc, không tham gia ký kết hiệp định.

Theo Koreatimes, gần đây Hanwha đã bắt tay với Viện Khoa học và Công nghệ Cao cấp Hàn Quốc (KAIST) đưa ra một dự án hợp tác phát triển vũ khí quân sự tự hành trang bị trí tuệ nhân tạo (AI) mà CNN gọi là “robot giết người”, nhằm mục đích tham gia cuộc chạy đua phát triển vũ khí tự hành trên thế giới.

Để thực hiện dự án này, hai bên cùng mở rộng một trung tâm nghiên cứu chung tại KAIST, nơi tập hợp các nhà khoa học của KAIST và Hanwha, nhằm tiến hành những nhiệm vụ khác nhau để phục vụ cho mục đích chung là làm thế nào để ứng dụng thành tựu khoa học từ cuộc Cách mạng Công nghệ lần thứ 4 vào vũ khí và chiến trường trong tương lai.

Theo đó, KAIST sẽ cử 25 nhà khoa học đến làm việc tại trung tâm này, trong khi đó, Tập đoàn Hanwha sẽ cử các nhà nghiên cứu ở công ty con thuộc lĩnh vực quốc phòng anh ninh nghiên cứu theo các đề tài đã định sẵn.

Đại diện của Hanwha cho biết, trung tâm nghiên cứu chung này sẽ tập trung vào 4 nhiệm vụ chính, bao gồm: (1) Phát triển hệ thống lệnh trang bị trí tuệ nhân tạo; (2) Phát triển thuật toán AI cho tàu ngầm không người lái; (3) Phát triển hệ thống đào tạo hàng không trang bị AI; (4) Phát triển kỹ thuật theo dõi đối tượng trang bị AI.

“Đến cuối năm 2018, tất cả 4 nhiệm vụ này dự kiến sẽ được hoàn thành. Đó là mục tiêu của trung tâm”, người này cho biết.

Vũ khí AI (vũ khí trang bị trí tuệ nhân tạo), với tính năng có thể tìm kiếm và tiêu diệt mục tiêu mà không theo sự điều khiển của con người, được xem là “cuộc cách mạng thứ ba” trên chiến trường, sau thuốc súng và vũ khí hạt nhân.

Làn sóng phản ứng của nhà khoa học về AI trên thế giới

Hơn 50 chuyên gia nghiên cứu trí tuệ nhân tạo (AI) từ gần 30 nước đã ký lá đơn kêu gọi tẩy chay KAIST và đối tác của trường là tập đoàn quốc phòng Hanwha Systems. Các nhà nghiên cứu tuyên bố họ sẽ không cộng tác với trường đại học hoặc tiếp đón khách tham quan từ KAIST vì lo ngại KAIST tìm cách thúc đẩy chạy đua vũ trang nhằm phát triển vũ khí tự động.

Trong bản tuyên bố đăng trên Website của Viện Đại học New South Wales (Úc), gần 60 giáo sư đã cùng ký vào bản tuyên bố, với nội dung:

“Chúng tôi công khai tuyên bố sẽ tẩy chay tất cả các mối quan hệ hợp tác với viện KAIST (bao gồm việc thăm viện, mời khách mời từ viện hay tham gia bất cứ dự án nghiên cứu nào có viện tham gia) cho đến khi người đứng đầu của viện cam kết không phát triển vũ khí tự hành không theo sự kiểm soát của con người.

Nếu tiếp tục phát triển, loại vũ khí tự hành trang bị trí tuệ nhân tạo sẽ là “cuộc cách mạng thứ ba” của chiến tranh. Hệ quả là, chúng sẽ thúc đẩy chiến tranh nhanh hơn, trên quy mô lớn hơn bao giờ hết. Loại vũ khí này nếu rơi vào tay những kẻ khủng bố, những kẻ phân biệt chủng tộc thì nó có thể trở thành vũ khí khủng bố sát hại người vô tội một cách không thương tiếc.

Chúng tôi yêu cầu viện KAIST nhanh chóng thực hiện cam kết không phát triển vũ khí AI, thay vào đó, viện chỉ nên áp dụng trí tuệ nhân tạo nhằm giúp cuộc sống của con người trở nên tốt đẹp hơn”.

“Có nhiều điều tuyệt vời bạn có thể thực hiện nhờ sự trợ giúp của AI như cứu người, bao gồm trong hoàn cảnh chiến trận, nhưng công khai tuyên bố mục tiêu phát triển vũ khí tự động cùng đối tác như thế này làm dấy lên lo ngại lớn”, Toby Walsh, giáo sư ở Đại học New South Wales, người tổ chức chiến dịch tẩy chay, cho biết. “Một trường đại học rất đáng kính lại hợp tác với một đối tác không minh bạch và liên tiếp vi phạm quy tắc quốc tế”.

Chiến dịch tẩy chay diễn ra trước cuộc họp của Liên Hiệp Quốc ở Geneva, Thụy Sĩ về vũ khí tự động, trong đó hơn 20 nước đã kêu gọi lệnh cấm hoàn toàn robot sát thủ. Việc sử dụng AI trong quân sự trên khắp thế giới khiến giới chuyên gia lo sợ kịch bản giống như phim Kẻ hủy diệt sẽ xảy ra. Nhiều câu hỏi được đặt ra về độ chính xác của loại vũ khí này và khả năng phân biệt bạn – thù của chúng.

Walsh bắt đầu quan tâm đến quan hệ hợp tác giữa KAIST và Hanwha khi đọc bài báo Hàn Quốc mô tả KAIST “gia nhập cuộc cạnh tranh toàn cầu về phát triển vũ khí tự động”. Ông nhanh chóng viết thư cho trường đại học và đặt nhiều câu hỏi nhưng không được hồi đáp.

Đứng trước việc công khai tẩy chay của gần 60 giáo sư lĩnh vực AI trên thế giới, Viện trưởng viện KAIST, GS. Shin Sung-chul, lên tiếng khẳng định Viện không có ý định phát triển hệ thống vũ khí giết người hay robot sát thủ, ông nói:

“Là một viện nghiên cứu khoa học, chúng tôi luôn coi trọng nhân quyền và các chuẩn mực đạo đức ở mức độ rất cao. KAIST đã và đang nỗ lực nghiên cứu để giúp thế giới ngày một tốt hơn.”

Toby Walsh, giáo sư ngành trí tuệ nhân tạo thuộc Viện Đại học New South Wales (Úc), người soạn bản tuyên bố tẩy chay, nói với CNN rằng ông khá hài lòng với những điều mà viện trưởng KAIST nói.

“Tôi vẫn còn nhiều nghi vấn về những gì họ định làm sắp tới. Tuy nhiên, việc Viện trưởng Shin Sung-chul lên tiếng như vậy phần nào thể hiện trách nhiệm của họ trước công chúng sau này”, GS. Toby Walsh nói.

Hồng Liên (t/h)