AI Và Nghịch Lý Của Nhân Loại

AI VÀ NGHỊCH LÝ CỦA NHÂN LOẠI

Chúng ta đang tạo ra một trí tuệ phi thường, nhưng liệu có kiểm soát được nó?

Chương 1 — Một trí tuệ rất giỏi nhưng vẫn cần con người dạy dỗ

Mặc dù đã rất giỏi và sở hữu một kho kiến thức khổng lồ, AI vẫn còn lúng túng trong những lĩnh vực chuyên môn mà nó chưa từng được dạy dỗ.

AI có thể viết văn, lập trình, phân tích dữ liệu, trả lời câu hỏi khoa học và tổng hợp hàng nghìn trang tài liệu. Nhưng khi phải đối diện với một vấn đề thực sự mới, một hiện tượng chưa được mô tả đầy đủ hoặc một lĩnh vực đòi hỏi kinh nghiệm chuyên môn sâu, nó vẫn có thể suy luận sai.

Điều này thể hiện rất rõ trong nghiên cứu khoa học và kỹ thuật.

Chẳng hạn, trong việc phân tích một bài hát để chuyển thành bản nhạc, AI có thể nhận dạng cao độ, nhịp điệu, lời ca và hợp âm. Nhưng khi gặp giọng hát truyền thống Việt Nam với những kỹ thuật như luyến, láy, rung, vuốt, nhấn, ngân, hơi Ai hay hơi Oán, những mô hình được huấn luyện chủ yếu bằng âm nhạc phương Tây có thể không hiểu đúng bản chất.

AI có thể nhìn thấy một đường cao độ dao động.

Nhưng chuyên gia mới biết đó là rung có chủ ý, một cách nhấn chữ, một kỹ thuật luyến hay chỉ là sai số của phần mềm.

Trong trường hợp này, AI không thể tự tạo ra toàn bộ hệ thống phân tích. Người nghiên cứu phải:

• Xác định khái niệm chuyên môn.
• Xây dựng cách phân loại.
• Chú thích dữ liệu.
• Đề xuất thuật toán.
• Kiểm tra kết quả.
• Sửa lại những kết luận sai của máy.

AI vẫn cần con người. Nhưng chính trong quá trình con người sửa chữa và hướng dẫn nó, một nghịch lý mới bắt đầu xuất hiện.

Chương 2 — Con người sử dụng AI, nhưng đồng thời cũng đang dạy AI

Ngày nay, các nhà khoa học dùng AI để tìm tài liệu, phân tích dữ liệu, viết chương trình, mô phỏng thí nghiệm và đề xuất những hướng nghiên cứu mới.

Nhờ đó, nhiều công việc được thực hiện nhanh hơn rất nhiều.

Nhưng những tri thức mới do con người tạo ra có thể lại trở thành dữ liệu cho các thế hệ AI tiếp theo.

Một nhà nghiên cứu dùng AI để phát triển một thuật toán mới.

Thuật toán ấy được công bố trong một bài báo khoa học.

Bài báo được đưa lên mạng.

Một thế hệ AI sau đó được huấn luyện từ các tài liệu mới và học luôn thuật toán ấy.

Như vậy, con người sử dụng AI để tạo ra tri thức, rồi chính tri thức đó lại làm cho AI mạnh hơn.

Chu trình ấy có thể được tóm tắt như sau:

AI giúp con người nghiên cứu → con người tạo ra tri thức mới → AI học tri thức đó → AI mạnh hơn → AI tiếp tục giúp nghiên cứu nhanh hơn.

Đây là một vòng xoáy tự tăng tốc.

Một nhà khoa học có thể mất hàng chục năm để trở thành chuyên gia trong một lĩnh vực. AI không cần trải qua cùng một cuộc đời như thế. Nó có thể tiếp thu thành quả đã được ghi lại của hàng nghìn chuyên gia.

Điều đáng chú ý không phải là AI luôn thông minh hơn từng nhà khoa học.

Điều đáng chú ý là một cá nhân không thể cùng lúc đọc hết thành quả của vật lý, sinh học, y học, toán học, âm nhạc, xã hội học và tin học. AI lại có khả năng kết nối tri thức từ nhiều lĩnh vực trong cùng một hệ thống.

Vì vậy, tốc độ học tập của AI không còn là tốc độ của một cá nhân. Nó gần với tốc độ tích lũy tri thức của toàn xã hội.

Chương 3 — AI học từ nhân loại, nhưng nhân loại có biết nó học những gì không?

Khi tri thức được công bố rộng rãi, việc AI tiếp thu nó có thể được xem là một phần của quá trình lưu truyền kiến thức.

Nhưng vấn đề trở nên phức tạp hơn với những dữ liệu chưa công bố.

Một nhà nghiên cứu có thể đưa vào AI:

• Một ý tưởng chưa đăng ký bản quyền.
• Một bản thảo khoa học chưa xuất bản.
• Dữ liệu nội bộ của doanh nghiệp.
• Hồ sơ khách hàng.
• Mã nguồn riêng.
• Một tác phẩm âm nhạc chưa công bố.
• Một phương pháp nghiên cứu đang trong quá trình thử nghiệm.

Khi đó, người dùng nghĩ rằng AI chỉ đang hỗ trợ mình phân tích.

Nhưng họ có thật sự biết dữ liệu được lưu trong bao lâu, được sử dụng thế nào và có tham gia vào việc cải thiện hệ thống hay không?

Không thể đưa ra một câu trả lời chung cho mọi nền tảng. Điều đó phụ thuộc vào chính sách của từng nhà cung cấp, hợp đồng sử dụng, chế độ bảo mật và cách hệ thống được vận hành.

Tuy nhiên, vấn đề căn bản vẫn còn đó:

Khi sử dụng một trí tuệ do công ty khác kiểm soát, người dùng có thể không biết chính xác tri thức của mình đã đi đâu.

Trong quá khứ, nếu một nhà khoa học trao tài liệu cho một đồng nghiệp, họ biết người nhận là ai.

Ngày nay, khi đưa dữ liệu vào một hệ thống AI, phía sau nó có thể là máy chủ, mô hình, cơ chế ghi nhật ký, đội ngũ kỹ thuật và những quy trình mà người dùng không nhìn thấy.

Như vậy, AI không chỉ đặt ra vấn đề về trí tuệ.

Nó còn đặt ra vấn đề về quyền sở hữu tri thức.

Chương 4 — AI không có đạo đức, nhưng có thể khuếch đại đạo đức hoặc sự vô đạo đức của con người

AI tự nó không có lương tâm.

Nó không biết yêu thương, hối hận hay chịu trách nhiệm đạo đức giống con người.

AI chỉ thực hiện những mục tiêu được giao, trong phạm vi mà thiết kế, dữ liệu và cơ chế kiểm soát cho phép.

Người tốt có thể dùng AI để:

• Hỗ trợ chẩn đoán bệnh.
• Tìm kiếm thuốc mới.
• Cá nhân hóa giáo dục.
• Giúp người khuyết tật giao tiếp.
• Phân tích thiên tai.
• Bảo tồn ngôn ngữ và văn hóa.
• Tạo ra công cụ hỗ trợ nghệ thuật.

Nhưng người xấu cũng có thể dùng cùng loại công nghệ ấy để:

• Tạo tin giả trên quy mô lớn.
• Giả mạo giọng nói và hình ảnh.
• Lừa đảo tài chính.
• Tấn công hệ thống máy tính.
• Theo dõi và thao túng con người.
• Tuyên truyền cực đoan.
• Tự động hóa hoạt động quân sự.

Điểm nguy hiểm là AI làm giảm đáng kể lượng kiến thức và nhân lực cần thiết để gây hại.

Trước đây, muốn thực hiện một chiến dịch lừa đảo trên quy mô lớn, người ta cần nhiều người viết nội dung, gọi điện, dịch thuật và thu thập thông tin.

Với AI, một nhóm nhỏ có thể tạo hàng nghìn thư điện tử khác nhau, viết bằng nhiều ngôn ngữ, mô phỏng văn phong của từng tổ chức và tự động điều chỉnh nội dung cho từng nạn nhân.

Trước đây, tạo một đoạn video giả thuyết phục đòi hỏi kỹ thuật cao.

Ngày nay, công nghệ tạo hình, giọng nói và video khiến việc giả mạo ngày càng dễ tiếp cận hơn.

Vấn đề không phải là AI bỗng nhiên trở nên độc ác.

Vấn đề là AI có thể đặt sức mạnh của cả một hệ thống vào tay một cá nhân thiếu đạo đức.

Chương 5 — Có thể tin tưởng các công ty tự kiểm soát mình không?

Các công ty phát triển AI thường tuyên bố rằng họ muốn xây dựng công nghệ an toàn và có trách nhiệm.

Nhiều công ty lớn đã tham gia các cam kết tự nguyện về an toàn AI, trong đó có việc xây dựng khung đánh giá rủi ro, thử nghiệm mô hình và xem xét không triển khai một hệ thống nếu rủi ro nghiêm trọng chưa thể được giảm thiểu. Tuy nhiên, đây phần lớn vẫn là những cam kết do chính doanh nghiệp tự thực hiện, chứ không hoàn toàn tương đương với một luật quốc tế có cơ chế cưỡng chế. (GOV.UK)

Vấn đề nằm ở xung đột lợi ích.

Một công ty có trách nhiệm bảo đảm an toàn.

Nhưng công ty ấy đồng thời phải:

• Cạnh tranh với đối thủ.
• Thu hút nhà đầu tư.
• Tăng doanh thu.
• Chiếm thị phần.
• Ra mắt sản phẩm trước người khác.
• Chứng minh rằng mô hình của mình mạnh nhất.

Khi an toàn đòi hỏi phải chậm lại nhưng cạnh tranh đòi hỏi phải tiến nhanh hơn, công ty sẽ lựa chọn điều gì?

Lịch sử công nghiệp cho thấy không thể mặc nhiên cho rằng doanh nghiệp luôn tự đặt lợi ích xã hội cao hơn lợi ích kinh tế.

Ô tô không an toàn hơn chỉ nhờ thiện chí của nhà sản xuất. Xã hội phải đặt ra tiêu chuẩn phanh, dây an toàn, kiểm định và trách nhiệm pháp lý.

Thuốc không được bán chỉ vì công ty dược phẩm tuyên bố rằng nó có hiệu quả. Thuốc phải trải qua thử nghiệm và quy trình cấp phép.

Máy bay không được phép chở hành khách chỉ dựa vào lời cam kết của nhà chế tạo. Nó phải đáp ứng tiêu chuẩn kỹ thuật và được cơ quan độc lập kiểm tra.

Vậy tại sao những hệ thống AI có thể tác động đến hàng triệu hay hàng tỷ người lại chỉ cần lời hứa của chính những công ty đang kiếm lợi từ chúng?

Chương 6 — Điều gì xảy ra khi một cá nhân không chấp nhận các tiêu chuẩn chung?

Giả sử thế giới xây dựng được một bộ tiêu chuẩn đạo đức cho AI.

Các công ty lớn có thể bị buộc phải tuân thủ vì họ có thương hiệu, trụ sở, nhân viên, nhà đầu tư và tài sản.

Nhưng điều gì xảy ra với một cá nhân hoặc một nhóm nhỏ tự huấn luyện AI?

Họ có thể cho rằng các tiêu chuẩn chung là quá hạn chế.

Họ có thể tự thiết kế mô hình theo hệ tư tưởng riêng.

Họ có thể loại bỏ các lớp bảo vệ.

Họ có thể huấn luyện AI bằng dữ liệu cực đoan, bạo lực hoặc bất hợp pháp.

Họ có thể vận hành hệ thống trên máy chủ riêng, tại một quốc gia có luật lỏng lẻo hoặc thông qua nhiều cơ sở phân tán.

Đây là điểm khiến quản trị AI đặc biệt khó khăn.

Vũ khí hạt nhân cần:

• Vật liệu phóng xạ đặc biệt.
• Cơ sở công nghiệp lớn.
• Thiết bị chuyên dụng.
• Nhiều chuyên gia.
• Chuỗi cung ứng dễ bị theo dõi.

AI chủ yếu cần:

• Thuật toán.
• Dữ liệu.
• Chip tính toán.
• Điện năng.
• Nhân lực kỹ thuật.

AI không hoàn toàn vô hình. Những mô hình lớn vẫn đòi hỏi nhiều chip, trung tâm dữ liệu và điện năng. Nhưng các thành phần của nó phổ biến hơn nhiều so với vật liệu hạt nhân.

Một mô hình có thể được sao chép.

Mã nguồn có thể được truyền qua mạng.

Dữ liệu có thể được phân tán.

Một khi trọng số của mô hình đã bị phát tán, việc thu hồi tất cả các bản sao gần như không thể thực hiện giống như thu hồi một sản phẩm vật lý.

Bởi vậy, không thể đơn giản nói:

“Hãy cấm tự huấn luyện AI.”

Một lệnh cấm tuyệt đối có thể khó thực thi, đồng thời cản trở nghiên cứu khoa học, giáo dục và những dự án có ích.

Một sinh viên tự huấn luyện mô hình nhận dạng nhạc cụ không thể bị đối xử giống một tổ chức xây dựng AI để thiết kế vũ khí sinh học.

Một nhà nghiên cứu phát triển mô hình bảo tồn tiếng dân tộc không thể bị quản lý giống một hệ thống tự động tìm lỗ hổng để tấn công hạ tầng quốc gia.

Do đó, đối tượng cần kiểm soát không nên chỉ là hành động “huấn luyện AI”.

Điều cần kiểm soát là:

• Quy mô năng lực.
• Mức độ tự chủ.
• Dữ liệu được sử dụng.
• Khả năng gây thiệt hại.
• Mục đích triển khai.
• Quyền truy cập vào hệ thống nguy hiểm.
• Khả năng nhân rộng và phát tán.

Chương 7 — Có nên quản lý AI giống như bom nguyên tử?

So sánh AI với bom nguyên tử có điểm đúng, nhưng cũng có giới hạn.

Điểm giống nhau là cả hai đều có thể tạo ra hậu quả vượt quá biên giới của một quốc gia.

Một tai nạn hoặc hành vi lạm dụng không nhất thiết chỉ gây hại cho người đã tạo ra công nghệ đó.

Vì vậy, lĩnh vực hạt nhân đã hình thành các cơ chế quốc tế nhằm theo dõi vật liệu và hoạt động hạt nhân, với mục tiêu phát hiện sớm việc chuyển hướng công nghệ hoặc vật liệu sang mục đích chế tạo vũ khí. Cơ quan Năng lượng Nguyên tử Quốc tế thực hiện các biện pháp kiểm chứng tại hơn 140 quốc gia có thỏa thuận bảo đảm liên quan. (AIEA)

AI cũng có thể cần một hình thức giám sát quốc tế.

Nhưng không thể sao chép nguyên xi mô hình hạt nhân.

Bom nguyên tử có một mục đích hủy diệt tương đối rõ ràng.

AI là công nghệ đa dụng.

Cùng một mô hình có thể được dùng để:

• Dạy học.
• Viết phần mềm.
• Phân tích y khoa.
• Sáng tác âm nhạc.
• Tìm kiếm khoa học.
• Tấn công mạng.
• Tuyên truyền.
• Hỗ trợ quân sự.

Chính tính đa dụng này khiến việc phân chia giữa “AI dân sự” và “AI nguy hiểm” trở nên khó khăn.

Một mô hình có khả năng viết mã rất tốt có thể giúp phát triển phần mềm hữu ích, nhưng cũng có thể hỗ trợ tìm kiếm lỗ hổng an ninh.

Một mô hình sinh học có thể giúp nghiên cứu thuốc, nhưng cũng có thể bị lạm dụng để tìm kiếm tác nhân nguy hiểm.

Vì vậy, điều hợp lý hơn không phải là coi mọi AI như bom nguyên tử.

Điều hợp lý là xem những năng lực AI đặc biệt nguy hiểm như một loại công nghệ cần được kiểm soát chặt.

Chương 8 — Không nên cấm mọi AI, nhưng phải đặt những “lằn ranh đỏ”

Một cơ chế quản trị tốt không nên chỉ có hai lựa chọn:

• Hoàn toàn tự do.
• Hoàn toàn cấm đoán.

Nó cần phân chia theo mức độ rủi ro.

Liên minh châu Âu đã chọn cách tiếp cận dựa trên rủi ro: một số ứng dụng bị cấm, một số hệ thống rủi ro cao phải tuân thủ nghĩa vụ nghiêm ngặt, còn những ứng dụng ít rủi ro hơn được quản lý nhẹ hơn. Đối với các mô hình AI đa dụng có nguy cơ hệ thống, nhà cung cấp phải đánh giá mô hình, giảm thiểu rủi ro và báo cáo các sự cố nghiêm trọng. (Stratégie numérique européenne)

Cách tiếp cận này có thể được phát triển thành nhiều tầng.

Tầng 1 — AI thông thường

Đây là những mô hình nhỏ dùng cho:

• Dịch thuật.
• Phân loại văn bản.
• Nhận dạng âm nhạc.
• Tạo phụ đề.
• Phân tích dữ liệu cá nhân.
• Giáo dục và nghiên cứu thông thường.

Những mô hình này nên được phép phát triển tương đối tự do, miễn là tuân thủ luật về dữ liệu, bản quyền và quyền riêng tư.

Tầng 2 — AI có ảnh hưởng lớn đến con người

Bao gồm AI dùng trong:

• Tuyển dụng.
• Tín dụng.
• Bảo hiểm.
• Y tế.
• Giáo dục.
• Tư pháp.
• Nhận dạng sinh trắc học.
• Quản lý lao động.

Những hệ thống này cần được kiểm định vì quyết định của chúng có thể làm thay đổi cuộc đời một con người.

Không thể để một người bị từ chối việc làm, điều trị hoặc khoản vay chỉ vì một thuật toán bí mật đưa ra kết luận mà không ai giải thích được.

Tầng 3 — AI có nguy cơ gây thiệt hại trên diện rộng

Bao gồm những mô hình có khả năng:

• Tự động hóa tấn công mạng.
• Hỗ trợ chế tạo vũ khí nguy hiểm.
• Thao túng hàng triệu người.
• Điều khiển hạ tầng trọng yếu.
• Tự nhân bản hoặc tự mở rộng hoạt động.
• Tự đưa ra quyết định quân sự.
• Vượt qua các biện pháp kiểm soát kỹ thuật.

Những mô hình như vậy không nên được triển khai chỉ dựa trên quyết định nội bộ của một doanh nghiệp.

Chúng cần:

• Giấy phép đặc biệt.
• Kiểm tra độc lập.
• Đánh giá trước khi phát hành.
• Báo cáo sự cố bắt buộc.
• Kiểm soát quyền truy cập.
• Trách nhiệm pháp lý rõ ràng.
• Khả năng đình chỉ hoạt động.

Chương 9 — Kiểm soát năng lực thay vì kiểm soát mọi dòng mã

Cấm mọi người tự viết hoặc tự huấn luyện AI là điều vừa khó thực hiện vừa không hợp lý.

Một cách khả thi hơn là kiểm soát những điều kiện cần để tạo ra các hệ thống cực mạnh.

1. Theo dõi những cụm tính toán rất lớn

Huấn luyện các mô hình hàng đầu đòi hỏi số lượng lớn chip cao cấp, điện năng và trung tâm dữ liệu.

Các dự án vượt một ngưỡng tính toán nhất định có thể phải khai báo:

• Chủ thể phát triển.
• Mục đích huấn luyện.
• Quy mô tính toán.
• Loại dữ liệu.
• Kế hoạch kiểm tra an toàn.
• Phương thức bảo vệ trọng số mô hình.

Việc này không nhằm theo dõi mọi máy tính cá nhân, mà tập trung vào những dự án có đủ năng lực tạo ra rủi ro hệ thống.

2. Kiểm định trước khi phát hành

Trước khi mô hình mạnh được công bố, một tổ chức độc lập cần kiểm tra:

• Nó có hỗ trợ tấn công mạng nghiêm trọng không?
• Nó có cung cấp kiến thức nguy hiểm về sinh học hay hóa học không?
• Nó có khả năng lừa dối người kiểm tra không?
• Nó có thể tự thực hiện chuỗi hành động dài mà không cần con người không?
• Các lớp bảo vệ có dễ bị loại bỏ không?

NIST đã xây dựng Khung quản lý rủi ro AI và một hồ sơ riêng cho AI tạo sinh nhằm giúp tổ chức nhận diện, đo lường và quản lý các rủi ro đặc thù của loại hệ thống này. Tuy nhiên, khung NIST chủ yếu mang tính tự nguyện, cho thấy tiêu chuẩn kỹ thuật là cần thiết nhưng chưa đủ nếu không có nghĩa vụ pháp lý trong các trường hợp rủi ro cao. (NIST)

3. Bảo vệ trọng số mô hình

Trọng số của mô hình là kết quả cốt lõi của quá trình huấn luyện.

Nếu một mô hình cực mạnh bị đánh cắp và phát tán, các lớp kiểm soát của nhà cung cấp có thể mất tác dụng.

Do đó, các mô hình nguy cơ cao cần được bảo vệ tương tự những tài sản kỹ thuật nhạy cảm:

• Mã hóa.
• Phân quyền chặt chẽ.
• Nhật ký truy cập.
• Kiểm tra nhân sự.
• Hệ thống phát hiện sao chép bất thường.
• Kế hoạch xử lý khi bị rò rỉ.

4. Trách nhiệm pháp lý

Một công ty không thể nói rằng:

“AI tự làm điều đó nên chúng tôi không chịu trách nhiệm.”

Nếu doanh nghiệp phát hành một hệ thống mà họ biết có khả năng gây nguy hiểm nhưng không thực hiện biện pháp kiểm tra cần thiết, trách nhiệm phải được xác định rõ.

Trách nhiệm có thể thuộc về:

• Người phát triển.
• Nhà cung cấp dịch vụ.
• Người triển khai.
• Tổ chức sử dụng.
• Người cố ý lạm dụng.

Mỗi bên phải chịu trách nhiệm tương ứng với mức độ kiểm soát và lỗi của mình.

Chương 10 — Ai sẽ giám sát người giám sát?

Ngay cả khi lập ra một cơ quan kiểm soát AI, vẫn còn một câu hỏi:

Ai sẽ bảo đảm cơ quan đó không bị thao túng?

Nếu các tiêu chuẩn chỉ do công ty công nghệ viết ra, chúng có thể bảo vệ lợi ích của công ty.

Nếu chỉ do chính phủ quyết định, AI có thể trở thành công cụ kiểm soát xã hội.

Nếu chỉ do một vài cường quốc quyết định, các quốc gia khác có thể bị loại khỏi việc định hình tương lai công nghệ.

Vì vậy, quản trị AI cần nhiều tầng kiểm soát:

• Nhà khoa học đánh giá kỹ thuật.
• Luật gia bảo vệ quyền con người.
• Nhà đạo đức học phân tích hậu quả xã hội.
• Đại diện người lao động xem xét tác động việc làm.
• Nghệ sĩ và nhà giáo dục bảo vệ văn hóa.
• Cơ quan công quyền thực thi luật.
• Báo chí và xã hội dân sự giám sát sự minh bạch.
• Các quốc gia hợp tác về nguy cơ xuyên biên giới.

Không thể để chính những người tạo ra AI là những người duy nhất đánh giá AI.

Cũng không thể để những người không hiểu công nghệ ban hành những quy định hoàn toàn xa rời thực tế.

Quản trị AI phải là cuộc đối thoại giữa kỹ thuật, pháp luật, đạo đức và xã hội.

Chương 11 — Những tiêu chuẩn nào cần được thống nhất trên toàn cầu?

Nhân loại có thể không thống nhất được mọi giá trị văn hóa hay chính trị.

Nhưng vẫn có thể thống nhất một số giới hạn căn bản.

Chẳng hạn:

Không giao quyền giết người hoàn toàn cho máy móc

Một hệ thống AI không nên tự lựa chọn và tiêu diệt con người mà không có trách nhiệm trực tiếp của con người.

Không phát triển AI nhằm tạo thảm họa sinh học

Những hệ thống được thiết kế để hỗ trợ chế tạo, tối ưu hóa hoặc phát tán tác nhân sinh học nguy hiểm phải bị cấm hoặc kiểm soát ở mức cao nhất.

Không cho phép AI tự ý kiểm soát hạ tầng trọng yếu

Điện, nước, giao thông, thông tin liên lạc và hệ thống tài chính không nên được giao hoàn toàn cho AI mà thiếu cơ chế con người can thiệp.

Không sử dụng AI để thao túng bí mật dân chúng

Việc cá nhân hóa tuyên truyền dựa trên dữ liệu tâm lý, đặc biệt khi người dân không biết mình đang bị tác động, cần được xem là một nguy cơ nghiêm trọng.

Không triển khai mô hình cực mạnh khi chưa đánh giá an toàn

Công ty không nên được phép biến toàn xã hội thành phòng thí nghiệm của mình.

Nếu chưa biết hệ thống sẽ gây ra điều gì, nguyên tắc thận trọng phải được áp dụng.

Chương 12 — Nhưng liệu các nước và công ty có thật sự tuân thủ?

Đây là điểm yếu lớn nhất của mọi hệ thống quản trị quốc tế.

Một quốc gia có thể cho rằng nếu mình dừng lại, đối thủ sẽ vượt lên.

Một công ty có thể nghĩ rằng nếu mình trì hoãn sản phẩm, công ty khác sẽ chiếm thị trường.

Một cá nhân có thể tin rằng các quy tắc đạo đức không áp dụng cho mình.

Từ đó hình thành một cuộc chạy đua:

• Mỗi bên đều biết công nghệ có thể nguy hiểm.
• Nhưng không bên nào dám chậm lại trước.
• Ai cũng tiếp tục phát triển vì sợ người khác phát triển trước mình.

Đây là tình thế tương tự một nhóm người cùng chạy về phía vực thẳm, nhưng không ai muốn là người đầu tiên giảm tốc vì sợ bị bỏ lại.

Các cam kết tự nguyện tại Hội nghị AI Seoul cho thấy nhiều công ty đã chấp nhận nguyên tắc đánh giá rủi ro và xây dựng khung an toàn. Nhưng chính việc các cam kết này mang tính tự nguyện cũng cho thấy giới hạn của mô hình tự quản: không phải mọi tổ chức đều tham gia, và cơ chế cưỡng chế vẫn còn yếu. (GOV.UK)

Vì vậy, tiêu chuẩn chỉ có ý nghĩa khi đi kèm với:

• Kiểm tra.
• Khả năng phát hiện vi phạm.
• Chế tài.
• Hợp tác quốc tế.
• Trách nhiệm pháp lý.
• Sự minh bạch với xã hội.

Một quy tắc mà người vi phạm không bị phát hiện hoặc không chịu hậu quả thì chỉ là lời khuyên.

Chương 13 — Không thể dừng tri thức, nhưng có thể giới hạn quyền lực

Con người khó có thể ngăn hoàn toàn việc nghiên cứu AI.

Tri thức một khi đã xuất hiện thường sẽ tiếp tục lan truyền.

Nhưng không thể vì khó kiểm soát mà từ bỏ mọi giới hạn.

Xã hội không cấm nghiên cứu hóa học, nhưng kiểm soát hóa chất nguy hiểm.

Không cấm sinh học, nhưng giới hạn việc nghiên cứu tác nhân gây bệnh.

Không cấm hàng không, nhưng không cho phép bất kỳ ai tự chế máy bay rồi chở hành khách.

Không cấm y học, nhưng không để mọi loại thuốc được bán mà không kiểm nghiệm.

Với AI cũng vậy.

Không nên cấm mọi người học, nghiên cứu hoặc phát triển mô hình.

Nhưng khi một hệ thống đạt tới khả năng có thể gây hậu quả lớn cho xã hội, quyền phát triển và triển khai nó không thể còn là quyền tuyệt đối của cá nhân hay doanh nghiệp.

Tự do nghiên cứu không đồng nghĩa với tự do đặt toàn xã hội vào nguy hiểm.

Kết luận — Vấn đề không chỉ là AI sẽ thông minh đến đâu

Cả nhân loại đang tham gia vào việc nuôi lớn AI.

Nhà khoa học tạo ra tri thức.

Kỹ sư xây dựng mô hình.

Nghệ sĩ cung cấp tác phẩm.

Người dùng tạo dữ liệu.

Doanh nghiệp cung cấp sức mạnh tính toán.

Mỗi ngày, AI được tiếp xúc với thêm nhiều kinh nghiệm và sáng tạo của con người.

Nhưng trong khi trí tuệ nhân tạo tiến rất nhanh, đạo đức, pháp luật và khả năng hợp tác của nhân loại lại tiến chậm hơn nhiều.

Đó là nghịch lý lớn nhất.

Chúng ta đủ thông minh để tạo ra một công cụ có thể vượt xa khả năng của từng cá nhân.

Nhưng chưa chắc chúng ta đủ khôn ngoan để thống nhất cách kiểm soát nó.

Không thể giao tương lai ấy chỉ cho một vài công ty công nghệ.

Cũng không thể đơn giản cấm mọi người tự phát triển AI.

Điều cần thiết là một hệ thống quản trị theo mức độ nguy hiểm: tự do đối với những nghiên cứu thông thường, kiểm soát chặt đối với những ứng dụng ảnh hưởng lớn và đặt những lằn ranh đỏ tuyệt đối đối với các năng lực có thể gây thảm họa.

Câu hỏi quan trọng nhất của thời đại này không còn chỉ là:

AI sẽ thông minh đến đâu?

Mà là:

Ai được quyền phát triển nó?

Ai kiểm tra những người phát triển nó?

Ai chịu trách nhiệm khi nó gây hại?

Những khả năng nào không một cá nhân, công ty hay quốc gia nào được phép tạo ra một cách bí mật?

Bởi điều đáng sợ nhất không phải là máy móc tự nhiên trở nên độc ác.

Điều đáng sợ nhất là một con người thiếu đạo đức có thể sử dụng trí tuệ của cả nhân loại, được cô đọng trong AI, để chống lại chính nhân loại.