Nhóm II · Quản trị, dân chủ & đạo đức AI

# Stuart Russell

AI Governance, Democracy & Ethics · America 250 AI Pioneers #17

Context tag: II — AI Governance, Democracy & Ethics (America 250 AI Pioneers)
Date: 2026-04-20
Mode: person

## 1. Danh tính & Vị trí

Stuart J. Russell, OBE, FRS
- Distinguished Professor of Computer Science, UC Berkeley (1986–nay); Smith-Zadeh Chair in Engineering
- Director, Center for Human-Compatible AI (CHAI)
- Co-Director, Kavli Center for Ethics, Science, and the Public
- President, International Association for Safe & Ethical AI (IASEAI, thành lập 11/2024)
- Distinguished Professor of Computational Precision Health, UCSF (1/2024–nay)
- Founder & VP, Bayesian Logic Inc. (contractor cho UN CTBTO – giám sát hạt nhân toàn cầu)
- Co-chair, OECD Expert Group on AI Futures
- US representative, Global Partnership on AI (GPAI)
- NAE Member (2025), Fellow of the Royal Society (2025)

Học vấn: BA Physics (Oxford, 1982) · PhD Computer Science (Stanford, 1986)

## 2. Đóng góp cốt lõi

### 2.1 Giáo trình nền tảng AI toàn cầu

Artificial Intelligence: A Modern Approach (AIMA, cùng Peter Norvig) — 4 lần tái bản, được áp dụng tại 1.556 trường đại học ở 134 quốc gia. Đây là tài liệu giảng dạy AI chuẩn mực toàn cầu.

Vietnam nexus: AIMA là giáo trình chính thức trong chương trình Trí tuệ nhân tạo tại các đại học Việt Nam (Bách khoa Hà Nội, HCMUT, FPT University, v.v.). Russell định hình cách AI được dạy và tư duy tại Việt Nam qua nhiều thế hệ sinh viên.

### 2.2 Mô hình AI tương thích với con người (HCAI)

- Vấn đề: "Standard model" của AI — thiết kế máy tối ưu hóa một mục tiêu cố định — là sai về cơ bản. Nếu mục tiêu không hoàn hảo, máy có thể gây hại.
- Giải pháp (Inverse Reward Design / Cooperative Inverse Reinforcement Learning): Máy không nhận mục tiêu cứng nhắc mà học sở thích người dùng qua quan sát hành vi. Hệ thống luôn "bất định về mục tiêu" — nên luôn cho phép con người can thiệp.
- Ba nguyên tắc HCAI:
  1. Máy không có mục tiêu cố định, chỉ tối đa hóa sở thích người
  2. Máy ban đầu không biết sở thích con người là gì
  3. Máy phải học sở thích từ hành vi con người

### 2.3 Sách Human Compatible (2019)

Lập luận rằng AGI tối ưu hóa mục tiêu sai có thể dẫn đến tuyệt chủng nhân loại. Đề xuất thiết kế lại từ gốc rễ dựa trên uncertainty về mục tiêu. Được xem là "cuốn sách quan trọng nhất về AI từ trước đến nay" (theo nhiều nhà đánh giá).

## 3. Vị trí chính sách & Hoạt động quản trị

### 3.1 Nhân chứng Thượng viện Hoa Kỳ (7/2023)

Điều trần trước Senate Judiciary Subcommittee — cảnh báo AGI có thể dẫn đến "tuyệt chủng con người" nếu không có khung pháp lý. Đề xuất: cơ quan quản lý AI liên bang, yêu cầu an toàn bắt buộc, loại bỏ khỏi thị trường nếu vi phạm.

### 3.2 Quan điểm "Red Lines" (UNESCO 2024, Berkeley AI Risk 2025)

- Bốn "vùng cấm tuyệt đối": tự nhân bản, xâm nhập hạ tầng, hỗ trợ vũ khí sinh học, mạo danh người thật
- Yêu cầu cấp phép hệ thống AI năng lực cao, trách nhiệm pháp lý nghiêm, không thể từ chối qua EULA
- Đề xuất: proof-carrying code (phần cứng thực thi), nút tắt từ xa, cơ chế xác minh toàn cầu
- So sánh ngân sách AI hiện tại "gấp 50 lần Manhattan Project" — đòi hỏi giám sát tương xứng
- Phát biểu tại DLD Munich 2026 (1/2026): "Làm thế nào không phá hủy thế giới bằng AI"
- CNBC Squawk Box (4/2026): "AI regulation is about reducing risk to a level we find acceptable"

### 3.3 Vũ khí tự hành (LAWS) — Ban quốc tế

- Tham gia đàm phán chuyên gia tại Liên Hợp Quốc (New York, Geneva) từ 2015
- Đồng sản xuất phim ngắn Slaughterbots (2017) — lan truyền toàn cầu, thay đổi nhận thức về nguy cơ LAWS
- Ký thư ngỏ kêu gọi minh bạch nội bộ tại các công ty AI lớn (6/2024)
- Chủ tịch IASEAI từ 11/2024 — tổ chức phi lợi nhuận thúc đẩy AI an toàn và đạo đức

### 3.4 Monitoring hạt nhân toàn cầu

Bayesian Logic Inc. xây dựng hệ thống giám sát địa chấn toàn cầu mới cho UN CTBTO (Tổ chức Hiệp ước Cấm thử hạt nhân toàn diện) — ứng dụng AI vào an ninh quốc tế phi truyền thống.

## 4. Phân tích: Tư tưởng & Ảnh hưởng

### 4.1 Phê phán "vũ trang trước, an toàn sau"

Russell công khai phê phán triết lý của Sam Altman/OpenAI: "Làm AGI trước, lo an toàn sau." Quan điểm Russell: an toàn phải được thiết kế từ đầu, không phải vá sau. Đây là ranh giới tư tưởng rõ ràng với mainstream AI industry.

### 4.2 Khung "Control Problem"

40 năm nghiên cứu tập trung vào một câu hỏi: "Làm thế nào duy trì quyền kiểm soát mãi mãi đối với thực thể mạnh hơn con người?" — Russell xem đây là vấn đề kỹ thuật, không chỉ triết học. CHAI nghiên cứu các giải pháp toán học cụ thể (CIRL, corrigibility, interruptibility).

### 4.3 Mạng lưới tầm ảnh hưởng

- BBC Reith Lectures 2021 (loạt bài uy tín nhất UK về khoa học/xã hội)
- Cố vấn OECD AI Futures, GPAI, UNESCO AI
- Mạng lưới học thuật: BAIR, CHAI, KCESP, UCSF Computational Health, AI2050
- Gần 38K followers LinkedIn; thường xuyên xuất hiện trên CNBC, Financial Times, NYT

## 5. Liên quan Việt Nam

Chiều | Nội dung
--- | ---
Giáo dục | AIMA là giáo trình AI chính tại ĐHBK Hà Nội, HCMUT, FPT University, NEU và nhiều trường khác. Hàng chục nghìn sinh viên VN học AI qua framework của Russell/Norvig.
Khung pháp lý AI | Nghị định 13/2023 và Chiến lược AI quốc gia 2030 của VN đề cập nguyên tắc AI đáng tin cậy — CHAI/HCAI framework ảnh hưởng gián tiếp qua tài liệu OECD/UNESCO mà VN tham chiếu.
LAWS & an ninh | VN tham gia các diễn đàn LHQ về LAWS; lập trường không có vũ khí tự hành đồng thuận với quan điểm Russell.
Hạt nhân & kiểm soát | VN là thành viên CTBTO — hệ thống giám sát Russell xây dựng bảo vệ lợi ích an ninh VN.
Tương lai AI quốc gia | VN đang xây dựng năng lực AI (VinAI, VietAI, FPT AI Center). Mô hình HCAI và CHAI cung cấp blueprint kỹ thuật cho AI safety phù hợp giá trị quốc gia.

## 6. Trích dẫn quan trọng

> "The standard model of AI is a mistake. It makes no sense to design machines that are beneficial to us only if we write down our objectives completely and correctly."
> — Human Compatible (2019)

> "Given our current lack of understanding of how to control AGI systems, achieving AGI would present potential catastrophic risks to humanity, up to and including human extinction."
> — US Senate Testimony (7/2023)

> "We need red lines over vagueness: clear bans on unsafe capabilities, licensing of high-capability systems, and liability with teeth."
> — Berkeley AI Risk Speaker Series (2025)

> "AI regulation is about reducing risk to a level we find acceptable."
> — CNBC Squawk Box (4/16/2026)

## 7. Dòng thời gian chính

Năm | Sự kiện
--- | ---
1982 | BA Physics, Oxford (Hạng nhất)
1986 | PhD CS, Stanford → Gia nhập Berkeley
1995 | AIMA lần đầu xuất bản (cùng Peter Norvig)
2016 | Thành lập CHAI tại Berkeley
2017 | Slaughterbots film; TED Talk "Three principles for creating safer AI"
2019 | Xuất bản Human Compatible
2021 | BBC Reith Lectures; OBE từ Nữ hoàng Elizabeth
2023 | Điều trần Thượng viện Hoa Kỳ về AI safety
2024 | Trở thành Distinguished Prof. UCSF; ký thư ngỏ minh bạch AI
11/2024 | Thành lập & làm Chủ tịch IASEAI
2025 | NAE Member, FRS (Royal Society Fellow), AAAI AI Benefit of Humanity Award
4/2026 | CNBC interview về AI regulation (gần nhất)

## 8. Nguồn tham khảo

1. UC Berkeley EECS Faculty page — eecs.berkeley.edu/Faculty/Homepages/russell.html
2. Personal homepage — people.eecs.berkeley.edu/~russell/
3. Kavli Center profile — kavlicenter.berkeley.edu/people/stuart-russell
4. LinkedIn profile (IASEAI President, 37.5K followers) — linkedin.com/in/stuartjonathanrussell
5. US Senate testimony (7/2023) — judiciary.senate.gov; kavlicenter.berkeley.edu
6. UNESCO 2024 paper: "Make AI safe or make safe AI?" — people.eecs.berkeley.edu/~russell/papers/russell-unesco24-redlines.pdf
7. Berkeley AI Risk Speaker Series (2025) — linkedin.com pulse recap
8. AIMA adoption data — aima.cs.berkeley.edu/adoptions.html (1,556 schools, 134 countries)
9. CNBC Squawk Box (4/16/2026) — cnbc.com/video/2026/04/16/...
10. HCAI research paper — people.eecs.berkeley.edu/~russell/papers/mi19book-hcai.pdf