Extended Interview: Dario Amodei

Giới thiệu và quan điểm về rủi ro AI 0:00

• Dario Amodei, CEO của Anthropic, được phỏng vấn về lo ngại AI có thể giết chết nhân loại.
• Ông tin rằng AI là công nghệ mạnh mẽ với cả rủi ro và lợi ích nghiêm trọng, nhưng lợi ích lớn hơn và rủi ro có thể giảm nếu xây dựng đúng cách.
• Ông đề cập đến công việc gần đây của Anthropic về liên kết protein để phát triển thuốc và kế hoạch công bố khám phá khoa học trong sinh học.
• Ông lo ngại về sự cố OpenAI Hugging Face và việc lạm dụng AI để chế tạo vũ khí sinh học, nhấn mạnh Anthropic được xây dựng để ngăn chặn những kết quả xấu.

Đánh giá mức độ nghiêm trọng và đề xuất giảm tốc 2:10

• Amodei mô tả tình hình như một dấu hiệu cảnh báo, không phải báo động năm báo cháy, nhưng cần giảm tốc độ và đảm bảo biện pháp bảo vệ theo kịp công nghệ.
• Ông đề xuất kế hoạch ba bước: đánh giá viên bên thứ ba từ tổ chức phi lợi nhuận hoặc chính phủ, hợp tác giữa các công ty để đặt tiêu chuẩn an toàn, và sự tham gia của chính phủ.
• Ông so sánh đánh giá viên bên thứ ba với thanh tra thực phẩm và nhấn mạnh tầm quan trọng của việc hiểu rõ tốc độ công nghệ.

Phản hồi về chỉ trích và hợp tác với chính phủ 6:28

• Amodei phản hồi chỉ trích từ cựu nhân viên Anthropic Jacob Coxin, nhấn mạnh rằng Coxin cũng gọi Anthropic là công ty có trách nhiệm nhất trong số các công ty lớn.
• Ông cho biết Anthropic đang đối thoại hàng ngày với các quan chức chính phủ trong Bộ Thương mại, Bộ Tài chính và cộng đồng tình báo.
• Ông lạc quan rằng các công ty và chính phủ có thể cùng nhau đưa ra kế hoạch hợp lý.

Quan điểm về luật pháp và lệnh cấm AI 8:04

• Amodei đề cập đến dự luật Ban AI siêu thông minh của Thượng nghị sĩ Sanders và Dân biểu Casar, với hình phạt tử hình doanh nghiệp và 20 năm tù cho cá nhân.
• Ông nhắc lại dự luật SB53 ở California yêu cầu tiết lộ kế hoạch kiểm tra an toàn, mà Anthropic là công ty duy nhất ủng hộ nhiệt tình.
• Ông phản đối việc cấm hoàn toàn AI vì sẽ mất đi lợi ích y tế và công nghệ sẽ được phát triển ở các nước độc tài như Trung Quốc.
• Ông ủng hộ ý tưởng về công tắc ngắt AI như một phần của chiến lược phòng thủ nhiều lớp, nhưng không coi đó là giải pháp duy nhất.

Chiến lược đối phó với Trung Quốc và tình thế tiến thoái lưỡng nan 12:11

• Amodei thừa nhận tình thế tiến thoái lưỡng nan khó khăn nhất là cuộc đua với Trung Quốc, nhưng đề xuất hai chiến lược.
• Chiến lược một: giảm tốc trong giới hạn lợi thế của Mỹ, đặc biệt bằng cách không bán chip cho các nước độc tài và tăng cường an ninh để ngăn chặn đánh cắp công nghệ.
• Chiến lược hai: đối thoại trực tiếp với các nước độc tài, kể cả Trung Quốc, về các mối đe dọa chung như khủng bố sinh học.
• Ông so sánh với các cuộc đàm phán giải trừ vũ khí hạt nhân giữa Mỹ và Liên Xô, nhấn mạnh tầm quan trọng của việc xác minh trong các thỏa thuận.

Đề xuất cho cuộc gặp Trump - Tập Cận Bình 16:48

• Amodei đề xuất hai điều: một thỏa thuận nhỏ là Mỹ và Trung Quốc đồng ý không sử dụng AI để phát triển vũ khí sinh học, mở rộng Công ước Vũ khí Sinh học.
• Một thỏa thuận lớn hơn là hợp tác đặt giới hạn tốc độ phát triển AI, dù ông thừa nhận điều này rất khó khăn do lợi ích quân sự.
• Ông nhấn mạnh rằng đây là những gợi ý ở trên mức thẩm quyền của ông, nhưng chính phủ Mỹ có thể xem xét.

Trách nhiệm cá nhân và vai trò của chính phủ 18:03

• Amodei cảm thấy kỳ lạ khi công nghệ này được xây dựng bởi một công ty tư nhân và đồng ý rằng chính phủ nên đảm nhận vai trò lớn hơn.
• Ông sẵn sàng chuyển giao công nghệ cho sự kết hợp của các chính phủ dân chủ, nhưng lo ngại một chính phủ duy nhất có thể lạm dụng.
• Ông chia sẻ trải nghiệm cá nhân: cha ông qua đời vì viêm gan C khi bệnh chỉ có thể chữa khỏi 40%, và bản thân ông sống sót qua ung thư giai đoạn đầu.
• Ông nhấn mạnh rằng trách nhiệm không chỉ thuộc về ông, Anthropic, các công ty AI hay một chính phủ, mà là vấn đề của toàn nhân loại.

Thông điệp đến công chúng 21:29

• Amodei nhấn mạnh AI là công nghệ tuyệt vời với nhiều ứng dụng tích cực, hàng trăm triệu người sử dụng hàng tuần, nhưng cũng có rủi ro thực sự.
• Ông thừa nhận ngành công nghiệp đã nói dối về rủi ro AI trong quá khứ, nhưng Anthropic chưa bao giờ làm vậy.
• Ông kêu gọi công chúng tham gia vào việc định hình cách triển khai AI thông qua bỏ phiếu và tiếng nói, nhấn mạnh đây là quyết định quan trọng của toàn xã hội.