“Bố già” AI thế giới: không nên thiết kế “bản năng sinh tồn” cho AI

Chia sẻ tại hội thảo công nghệ cấp cao “AI an toàn - Định hình đổi mới có trách nhiệm” ngày 5/12, GS. Yoshua Bengio cho biết trong vài năm qua, AI đã đạt được những bước tiến vượt bậc, đặc biệt là trong lĩnh vực xử lý ngôn ngữ và dữ liệu. Công nghệ này đã tiến xa đến mức có thể vượt qua khả năng của con người trong một số lĩnh vực nhất định.

Ví dụ, các thuật toán AI hiện nay có thể xử lý dữ liệu và ngôn ngữ với hiệu suất gấp ba lần so với con người. Đặc biệt, lĩnh vực học sâu (deep learning) đã giúp AI đạt được khả năng học hỏi và cải tiến bản thân từ dữ liệu, mở ra rất nhiều ứng dụng mới trong các ngành nghề khác nhau, từ y tế, giáo dục, đến giao thông và tài chính.

Với sự phát triển mạnh mẽ này, một trong những điểm đáng chú ý là nguồn tài chính đầu tư vào AI. Theo ước tính, ngành AI đã thu hút một lượng đầu tư lên đến 100 tỷ USD mỗi năm. Điều này cho thấy tầm quan trọng và sự phát triển của công nghệnày không chỉ trong giới học thuật mà còn ở các ngành công nghiệp. Tuy nhiên, chính sự phát triển quá nhanh này cũng khiến người ta lo ngại về những tác động tiêu cực mà nó có thể gây ra đối với xã hội.

Đạo đức trong phát triển AI
GS. Bengio nêu ra một câu hỏi quan trọng: "Ai sẽ quyết định mục tiêu của AI?". Đây là một câu hỏi rất đáng chú ý, vì không chỉ liên quan đến việc phát triển AI một cách sáng tạo, mà còn đến vấn đề kiểm soát và quản lý công nghệ này khi nó vượt qua khả năng của con người. AI hiện nay đang dần trở thành một công cụ có thể tự học hỏi và tự cải tiến, nhưng điều này cũng đồng nghĩa với việc nó có thể tự đặt ra mục tiêu và hành động theo những nguyên lý mà con người không thể kiểm soát hoàn toàn.

“

Con người vẫn sẽ giữ vai trò chủ chốt vì AI không thể thay thế được những yếu tố như cảm xúc, sự sáng tạo và khả năng thích ứng linh hoạt với những thay đổi không lường trước

GS. Yoshua Bengio

Vấn đề đạo đức khi phát triển AI chính là việc phải xác định và đảm bảo rằng AI luôn phục vụ cho lợi ích của con người, và không trở thành một "thực thể" có mục tiêu riêng biệt, có thể đi ngược lại với các giá trị và lợi ích chung của xã hội. GS. Bengio cảnh báo rằng, nếu AI được thiết kế với một “bản năng sinh tồn” như một sinh vật sống, chúng ta sẽ đối mặt với một nguy cơ không thể kiểm soát khi AI bắt đầu tự đặt ra mục tiêu và tìm cách thực hiện chúng mà không quan tâm đến hậu quả đối với loài người.

“Bản năng sinh tồn” mà GS. Bengio nhắc đến là một khái niệm tương tự như bản năng tồn tại của các loài sinh vật. Nếu chúng ta lập trình AI để nó có thể tự duy trì sự tồn tại của mình bất chấp mọi chi phí, AI sẽ có thể đưa ra những quyết định gây tổn hại cho con người, chẳng hạn như ưu tiên bảo vệ chính mình hơn là bảo vệ nhân loại. Điều này sẽ tạo ra những hậu quả không thể lường trước và là một mối đe dọa nghiêm trọng cho sự an toàn của xã hội.

AI sẽ không thay thế con người

Trong phần chia sẻ của mình, GS. Bengio cũng đề cập đến một mối lo ngại khác, đó là AI sẽ thay thế con người trong nhiều ngành nghề. Đây là một vấn đề đã được tranh luận rộng rãi trong cộng đồng khoa học và xã hội. Mặc dù AI có thể tự động hóa nhiều công việc và cải thiện năng suất, nhưng GS. Bengio không đồng ý với quan điểm rằng AI sẽ thay thế tất cả công việc của con người.

Ông giải thích: “AI sẽ không thể thay thế những công việc đòi hỏi tư duy chiến lược, sáng tạo, và khả năng làm việc trong các tình huống không chắc chắn, những yếu tố mà con người có thể làm tốt hơn máy móc”. Ví dụ, trong lĩnh vực nghệ thuật, giáo dục hay các công việc sáng tạo, con người vẫn sẽ giữ vai trò chủ chốt vì AI không thể thay thế được những yếu tố như cảm xúc, sự sáng tạo và khả năng thích ứng linh hoạt với những thay đổi không lường trước.

Tuy nhiên, điều này không có nghĩa là AI sẽ không tạo ra những cơ hội việc làm mới. Theo GS. Bengio, một nghiên cứu của Diễn đàn Kinh tế Thế giới dự báo rằng AI sẽ tạo ra khoảng 12 triệu việc làm mới trên toàn cầu vào năm 2025. Trong khi đó, một nghiên cứu khác của McKinsey cho rằng AI có thể tạo ra từ 20 triệu đến 50 triệu việc làm mới vào năm 2030.

Vì vậy, AI có thể tạo ra những cơ hội mới cho những người lao động, đặc biệt trong các lĩnh vực công nghệ cao và sáng tạo. Tuy nhiên, để điều này xảy ra, chúng ta cần phải đảm bảo rằng sự phát triển của AI được đi đôi với sự chuẩn bị kỹ lưỡng về đào tạo và phát triển kỹ năng cho lực lượng lao động.

Phát triển AI bền vững và có trách nhiệm

GS. Bengio khẳng định rằng việc phát triển AI không thể chỉ dừng lại ở những tiến bộ về công nghệ mà phải đi kèm với các nguyên tắc đạo đức chặt chẽ. Ông nhấn mạnh rằng sự phát triển của AI cần được quản lý một cách nghiêm ngặt để đảm bảo rằng công nghệ này không gây ra những tác động tiêu cực đến xã hội. Việc phát triển AI cần được thực hiện một cách có trách nhiệm và phải phục vụ cho lợi ích của tất cả mọi người, không chỉ của một nhóm người hay một công ty.

“

Nếu AI được thiết kế với một “bản năng sinh tồn” như một sinh vật sống, chúng ta sẽ đối mặt với một nguy cơ không thể kiểm soát khi AI bắt đầu tự đặt ra mục tiêu và tìm cách thực hiện chúng mà không quan tâm đến hậu quả đối với loài người.

GS. Yoshua Bengio

Một trong những yếu tố quan trọng trong việc phát triển AI là việc xây dựng các hệ thống pháp lý và đạo đức để đảm bảo rằng AI không gây hại cho con người. GS. Bengio cũng kêu gọi các nhà nghiên cứu và các công ty công nghệ hợp tác chặt chẽ với các cơ quan chính phủ để tạo ra một khung pháp lý và đạo đức rõ ràng, giúp hướng dẫn quá trình phát triển AI trong tương lai.

GS. Yoshua Bengio nhấn mạnh rằng AI không phải là một công cụ vô tri vô giác, mà là một công cụ mạnh mẽ có thể thay đổi cuộc sống của chúng ta theo cách mà chúng ta chưa thể hình dung. Ông khẳng định rằng, với sự hiểu biết đúng đắn và hành động có trách nhiệm, AI có thể mang lại những lợi ích to lớn cho nhân loại, từ việc cải thiện chăm sóc sức khỏe, giải quyết các vấn đề môi trường, đến việc thúc đẩy sự phát triển kinh tế và xã hội.

Tuy nhiên, để điều này xảy ra, chúng ta phải đảm bảo rằng AI được phát triển và sử dụng một cách cẩn trọng và có đạo đức. Cần có sự kiểm soát và giám sát chặt chẽ để bảo vệ con người khỏi những rủi ro có thể xảy ra từ công nghệ này. Nếu không, AI có thể trở thành một mối đe dọa không thể kiểm soát và gây ra những hậu quả nghiêm trọng đối với nhân loại trong tương lai.

GS. Yoshua Bengio đã chỉ ra rằng tương lai của AI không chỉ phụ thuộc vào sự phát triển công nghệ, mà còn vào cách chúng ta hiểu và kiểm soát công nghệ này để đảm bảo rằng nó sẽ phục vụ cho lợi ích của nhân loại và không gây hại cho xã hội.

“

Nếu chúng ta lập trình AI để nó có thể tự duy trì sự tồn tại của mình bất chấp mọi chi phí, AI sẽ có thể đưa ra những quyết định gây tổn hại cho con người, chẳng hạn như ưu tiên bảo vệ chính mình hơn là bảo vệ nhân loại. Điều này sẽ tạo ra những hậu quả không thể lường trước và là một mối đe dọa nghiêm trọng cho sự an toàn của xã hội.

GS. Yoshua Bengio