Anthropic CEO says pace of AI development needs to slow down, but "it doesn't mean we need to panic"

Giới thiệu về lời kêu gọi giảm tốc độ phát triển AI 0:00

• Các CEO công nghệ hàng đầu đang kêu gọi giảm tốc độ phát triển trí tuệ nhân tạo.
• Dario Amodei, người đứng đầu Anthropic, cảnh báo trong một bài luận cuối tuần rằng AI có thể sớm vượt qua khả năng hiểu và kiểm soát của chúng ta nếu không được kiểm soát.
• CEO OpenAI Sam Altman và giám đốc XAI Elon Musk nói rằng họ đồng ý.
• Jolene Kent đã phỏng vấn Dario Amodei cho CBS Sunday Morning để tìm hiểu việc làm chậm tốc độ AI sẽ như thế nào.

Bối cảnh và phỏng vấn Amodei 0:26

• Đề xuất của Amodei về việc làm chậm tốc độ phát triển AI được đưa ra sau khi một nhà nghiên cứu của Anthropic từ chức, cáo buộc các công ty AI lớn đang "đánh cược với mạng sống của chúng ta".
• Cuộc phỏng vấn diễn ra tại trụ sở Anthropic ở San Francisco.
• Amodei nói rằng ông không hoàn toàn đánh giá đúng tốc độ tiến bộ sẽ như thế nào.
• Ông mô tả chúng ta đang ở khúc quanh của đường cong hàm mũ, nơi nó bắt đầu dốc hơn.
• Amodei nói rằng đây không phải là lúc cần hoảng loạn hay đóng cửa tất cả, mà là dấu hiệu cảnh báo cần làm chậm lại.

Đề xuất của Amodei về kiểm tra và đánh giá 1:27

• Amodei nói rằng Anthropic sẽ không ngừng phát hành các mô hình tiên tiến hơn.
• Ông nhấn mạnh cần đảm bảo mỗi thế hệ mô hình được kiểm tra kỹ lưỡng.
• Bước đầu tiên là đưa vào các đánh giá viên nhúng từ bên ngoài, từ tổ chức phi lợi nhuận hoặc có thể là tổ chức chính phủ, để quan sát quá trình huấn luyện và vận hành mô hình.
• Amodei cho rằng điều này quan trọng hơn việc phát hành mô hình như thế nào hoặc khi nào.

Tình thế tiến thoái lưỡng nan với Trung Quốc 2:11

• Amodei thừa nhận đây là tình thế khó khăn nhất trong tình huống của họ.
• Ông nói nếu không ở trong tình huống cạnh tranh với Trung Quốc, họ có thể dành nhiều thời gian hơn.
• Khi được hỏi về trách nhiệm cá nhân, Amodei nói rằng thật kỳ lạ khi công nghệ này được xây dựng bởi một công ty tư nhân.
• Ông nói rằng ông đồng ý với những người đặt câu hỏi tại sao chính phủ không xây dựng nó, và ông cảm thấy không thoải mái.

Quan điểm về vai trò của chính phủ 2:55

• Amodei nói rằng ông lo ngại một chính phủ duy nhất có thể lạm dụng công nghệ này dễ như một công ty duy nhất.
• Ông ủng hộ sự kết hợp của các chính phủ được bầu cử dân chủ, với một số hình thức giám sát hoặc quản trị chung.
• Ông nói rằng vấn đề này lớn hơn tất cả chúng ta và cần có cách để mọi người có tiếng nói.
• Amodei nói ông không muốn mọi người cảm thấy bất lực hoặc cảm thấy một vài công ty đang làm bất cứ điều gì họ muốn.
• Ông thừa nhận rằng mọi người đang cảm thấy như vậy và nói cần làm cho điều đó không còn đúng.

Phản hồi từ các CEO khác 3:49

• Sam Altman của OpenAI nói công ty của ông sẽ làm theo Anthropic trong việc đưa vào các đánh giá viên bên thứ ba.
• Altman nói rằng ông hoan nghênh khung pháp lý liên bang về an toàn AI, nhưng không tin các công ty cần chờ đợi miễn trừ chống độc quyền hoặc bất kỳ luật nào, nói rằng "Chúng ta nên làm những gì có thể."
• CEO Microsoft Satya Nadella tham gia cuộc thảo luận, nói rằng "Chúng ta cũng cần tăng tốc và lan tỏa lợi ích của AI để chúng được phân phối rộng rãi khắp các quốc gia, cộng đồng và công ty."

Kết thúc phóng sự 4:33

• Người dẫn chương trình nói rằng có nhiều điều để thảo luận.
• Jolene Kent được khen ngợi vì báo cáo đặc biệt và độc quyền.
• Chương trình kết thúc với lời cảm ơn.