Reflection’s founders on building a DeepSeek of the West
SSources PodcastYouTube channel
Video by Sources Podcast on YouTube · Summary in Tiếng Việt · 1:01:54 video · Added Oct 6, 2026
TL;DR
Cuộc trò chuyện phân tích sự trỗi dậy của các mô hình AI mở, với sự tham gia của Misha và Yannis từ Reflection, công ty vừa ra mắt mô hình mở đầu tiên Beam với 500 tỷ tham số (23 tỷ tham số hoạt động). Họ thảo luận về lợi thế cạnh tranh của các phòng thí nghiệm Trung Quốc, tầm quan trọng của an toàn và căn chỉnh trong mô hình mở, và chiến lược kinh doanh của Reflection nhắm vào các doanh nghiệp, chính phủ và tổ chức có chủ quyền muốn sở hữu trí tuệ của riêng mình.
Key points
- Các mô hình mở đang chuyển dịch từ 30% lên 70% thị phần token trên Open Router chỉ trong 6 tháng.
- Reflection ra mắt Beam, mô hình mở đầu tiên với 500 tỷ tham số, 23 tỷ tham số hoạt động, mạnh về lập trình và tác nhân.
- Beam hiệu quả gấp 3-4 lần về suy luận so với GLM 5.3 và GPT-6 Luna nhờ mở rộng học tăng cường.
- Các phòng thí nghiệm Trung Quốc dẫn đầu mã nguồn mở do động lực địa chính trị, không phải thương mại.
- Mô hình mở an toàn hơn vì có nhiều nhà nghiên cứu kiểm tra, giống như Linux và Android.
- Reflection huy động hơn 2,5 tỷ USD, định giá 25 tỷ USD, hợp tác với Nvidia, Dell và Hàn Quốc.
- Chiến lược kinh doanh dựa trên công thức: mật độ trí tuệ × lượng tính toán × mức độ tin cậy.
- Các doanh nghiệp, chính phủ và tổ chức có chủ quyền là khách hàng chính muốn sở hữu AI của riêng mình.
- Reflection sẽ ra mắt các mô hình lớn hơn vào năm 2027, với cấu trúc mô hình cơ sở lớn và nhiều phiên bản tiếp theo.
- Dự án học tăng cường lớn nhất của Reflection có quy mô 10.000 GB, chạy trong nhiều tuần không ngừng học.
Detailed summary
Sự chuyển dịch sang mô hình mở
- Các đề cập đến mô hình mở trong các cuộc gọi thu nhập đã tăng gấp sáu lần trong quý ba.
- Các token mô hình mở hiện chiếm phần lớn lưu lượng trên Vercel và Open Router.
- Có một sự chuyển dịch thực sự đang diễn ra và các công ty đang làm việc một cách kín đáo.
Ẩn dụ bất động sản về thị trường AI
- Thị trường AI mới chỉ tồn tại về mặt thương mại được khoảng ba năm.
- Thị trường bắt đầu như một thị trường cho thuê, nơi mô hình đóng giống như thuê căn hộ.
- Khi người tiêu dùng trưởng thành và có nhiều nguồn lực hơn, quyền sở hữu trở nên quan trọng hơn.
- Cách duy nhất để sở hữu trí tuệ là mã nguồn mở vì bạn có thể chạy nó trên phần cứng của riêng mình.
Tỷ lệ token mở so với đóng
- Mười hai tháng trước, nhiều công ty không sử dụng mô hình mở.
- Sáu tháng trước, nhiều công ty khởi nghiệp đã chuyển sang mô hình mở.
- Tỷ lệ token trên Open Router đã đảo ngược từ 30% mở/70% đóng thành 70% mở/30% đóng trong sáu tháng.
Quan điểm kỹ thuật về mô hình mở
- Mô hình mở đã bắt kịp mô hình đóng và khoảng cách đang thu hẹp.
- Các mô hình Trung Quốc lớn đặc biệt cạnh tranh.
- Không có lý do gì mô hình đóng lại tốt hơn mô hình mở về lâu dài.
- Hai lý do chính khiến doanh nghiệp áp dụng mô hình mở là tính khả dụng của mô hình Trung Quốc mạnh và sự trưởng thành của thị trường.
Sự thống trị của Trung Quốc trong mã nguồn mở
- Sự phát triển công nghệ ở phương Tây được thúc đẩy bởi chủ nghĩa tư bản và thương mại.
- Thị trường cho thuê hỗ trợ phát triển mô hình đóng trước tiên.
- Hỗ trợ thương mại cho mô hình mở chỉ xuất hiện khi thị trường sẵn sàng cho quyền sở hữu.
- Hoa Kỳ từng có mô hình mở tốt nhất với Llama 3 nhưng thiếu động lực thương mại.
- Trung Quốc có tư duy khác biệt với động lực địa chính trị.
- DeepSeek V3 là một khoảnh khắc bất ngờ và rất ấn tượng.
- Các phòng thí nghiệm Trung Quốc đã không kiếm được lợi nhuận đáng kể cho đến gần đây.
Giới thiệu mô hình Beam
- Beam là mô hình đầu tiên của Reflection và là mô hình trọng số mở đầu tiên.
- Beam có khoảng 500 tỷ tham số với 23 tỷ tham số hoạt động.
- Beam đóng góp vào sự phát triển của các mô hình trọng số mở phương Tây.
- Beam mạnh về điểm chuẩn lập trình và tác nhân.
- Beam được thiết kế cho doanh nghiệp và khu vực công.
- Beam dẫn đầu về hiệu quả suy luận so với các mô hình mở khác.
Hiệu quả suy luận của Beam
- Hiệu quả suy luận đo lường tốc độ giải quyết nhiệm vụ so với tính toán khả dụng.
- Beam hiệu quả hơn 3-4 lần trong việc sử dụng token và suy luận so với GLM 5.3.
- Beam cũng hiệu quả hơn các mô hình đóng hàng đầu như GPT-6 Luna.
- Cách để tối đa hóa suy luận từ mô hình nhỏ là mở rộng quy mô học tăng cường.
- Reflection đã mở rộng học tăng cường lên mức cao nhất về tính toán khả dụng công khai.
- Reflection đã công bố nghiên cứu của mình để có thể so sánh công bằng.
Ứng dụng cho người tiêu dùng
- Mục đích của mô hình mở là trao quyền cho hệ sinh thái nhà phát triển.
- Mô hình mở cho phép các công ty kiểm soát vận mệnh của chính họ.
- Một làn sóng trải nghiệm người tiêu dùng mới được hỗ trợ bởi AI đang xuất hiện.
- Mô hình hiệu quả mang lại thời gian phản hồi nhanh hơn và chi phí phục vụ thấp hơn.
- Chi phí phục vụ là yếu tố quan trọng đối với các trường hợp sử dụng của người tiêu dùng.
Đào tạo từ đầu
- Reflection đã đào tạo Beam từ đầu mà không sử dụng bất kỳ kỹ thuật chưng cất nào.
- Lý do đầu tiên là đảm bảo đây là mô hình mở biên giới phương Tây thực sự.
- Lý do thứ hai là cần kiểm soát quá trình đào tạo trước để mở rộng học tăng cường.
- Đào tạo trước là một ngành khoa học dễ hiểu hơn so với chính học tăng cường.
- Cần đảm bảo đào tạo trước cân bằng và ổn định trong giai đoạn đòi hỏi tính toán cao.
- Cần chọn dữ liệu đào tạo trước để cung cấp khả năng logic cần thiết cho học tăng cường.
An toàn và căn chỉnh
- Có hai khía cạnh: lợi ích của nghiên cứu an toàn mở và cách tích hợp an toàn vào mô hình.
- Hệ điều hành và giao thức internet như Linux và Android là mở.
- Kiểm thử xâm nhập có hai loại: đóng và mở.
- Định luật Linus nói rằng với đủ nhiều người kiểm tra, mọi lỗi đều trở nên nông cạn.
- Phần mềm mã nguồn mở an toàn và đáng tin cậy hơn phần mềm đóng.
- AI là một sự phát triển của phần mềm, là một cỗ máy, không phải một vị thần.
- Các phòng thí nghiệm đóng có thể có 300 nhà nghiên cứu an toàn, nhưng cần nhiều hơn thế.
- Cần huy động cộng đồng từ 300 đến 300.000 người để kiểm tra các hệ thống này.
Vụ tấn công Hugging Face
- Hugging Face đã bị tấn công bởi các tác nhân sử dụng mô hình mở.
- Hugging Face đã sử dụng mô hình mở của Trung Quốc để tự vệ.
- Họ không có quyền truy cập vào các giải pháp an ninh mạng đóng tốt nhất.
- Điều này xác nhận giá trị của hệ sinh thái mở.
Giới hạn khả năng và quy định
- Có những cuộc thảo luận ở Washington về giới hạn khả năng.
- Nếu đạt đến một mức khả năng nhất định, cần có chính sách xác định những gì nên và không nên phát hành.
- Điều này liên quan đến khả năng trí tuệ, không phải quan điểm cứng nhắc về đóng hay mở.
- Một hệ sinh thái an toàn bao gồm cả mô hình đóng và mở với quan điểm riêng của chúng.
- Có một ngưỡng khả năng tối thiểu mà dưới đó cần quy định.
- Vấn đề tác nhân và hậu quả ngoài ý muốn là một thách thức lớn.
- Các thí nghiệm học tăng cường lớn có thể có hàng tỷ tác nhân trong giai đoạn thử nghiệm.
- Không thể theo dõi từng tác nhân một cách chính xác.
Cách tiếp cận kỹ thuật đối với an toàn
- Kỹ thuật xây dựng mô hình mở rất giống với kỹ thuật trong các phòng thí nghiệm đóng.
- Phương pháp bao gồm hai phần: đảm bảo đánh giá chính xác cho các hồ sơ rủi ro khác nhau.
- Cần đảm bảo mô hình không từ chối mọi thứ vì mô hình từ chối mọi thứ là an toàn nhưng vô dụng.
- Có sự cân bằng giữa tính hữu ích và an toàn.
- Sau khi có đánh giá và dữ liệu, có thể áp dụng học bắt chước hoặc học tăng cường.
- Reflection có một nhóm các nhà nghiên cứu tập trung riêng vào an toàn.
- Nhóm đảm bảo các mô hình được đánh giá đúng và nằm trên biên Pareto của an toàn và hữu ích.
Phân phối quyền lực và hệ thống dự phòng
- Khi một hoặc hai tổ chức kiểm soát một thứ gì đó quan trọng, nó tạo ra điểm yếu tập trung.
- Cần có hệ thống dự phòng trong hệ thống để đảm bảo không phải tất cả hệ thống đều thất bại nếu một hệ thống thất bại.
- Ví dụ Hugging Face chứng minh điều này.
- Nếu AI có thể được sử dụng để bảo vệ chống lại AI có hại, thế giới sẽ an toàn hơn.
- Trao quyền cho các cá nhân và tổ chức khác sử dụng mô hình mạnh mẽ cho an ninh mạng là một lợi ích ròng.
Câu chuyện thành lập Reflection
- Misha và Yannis đã làm việc cùng nhau tại DeepMind.
- Yannis là quản lý trực tiếp của Misha.
- Họ là đối tác bình đẳng trong công ty.
- Họ thành lập công ty sau khi rời DeepMind.
- Họ đã đặt cược vào AI mở vào năm 2024.
- Khi bắt đầu công ty, họ có hai đặt cược: một đặt cược khoa học và một đặt cược thị trường.
- Đặt cược khoa học là học tăng cường là cách tốt nhất để phát triển khả năng AI và lập trình.
- Đặt cược thị trường là có các mô hình mở phương Tây mạnh mẽ để xây dựng dựa trên đó.
Vai trò của Nvidia
- Reflection đã đi đến kết luận về mã nguồn mở một cách độc lập.
- Nvidia là một người ủng hộ mạnh mẽ cho mã nguồn mở.
- Nvidia coi mã nguồn mở là quan trọng chiến lược cho toàn bộ hệ sinh thái.
- Nvidia là một nhà đầu tư lớn trong hệ sinh thái.
- Có sự phù hợp lớn trong tầm nhìn giữa Reflection và Nvidia.
Mô hình kinh doanh của Reflection
- Reflection đã huy động được hơn 2 tỷ USD, 2,5 tỷ USD.
- Định giá được biết đến gần nhất là khoảng 25 tỷ USD.
- Công nghệ mã nguồn mở thúc đẩy nhu cầu về một thứ gì đó, như Kubernetes thúc đẩy nhu cầu điện toán đám mây.
- Người mua lớn nhất của AI mở sẽ là các công ty khởi nghiệp đã mở rộng thành doanh nghiệp, doanh nghiệp lớn, khu vực công, thực thể có chủ quyền và các quốc gia đồng minh.
- Vấn đề là nếu bạn chỉ cung cấp mô hình mở, họ sẽ không biết cách khai thác nó.
- Khi mua token từ phòng thí nghiệm đóng, họ nhận được một loạt công nghệ như phần mềm quản lý cụm, phần mềm phục vụ, phần mềm suy luận, lớp ứng dụng và toàn bộ hệ thống.
- Reflection giúp doanh nghiệp thiết lập mọi thứ họ cần để làm cho mô hình mở hữu ích thông qua gói tích hợp sẵn sàng sử dụng.
Tầm quan trọng của quyền sở hữu AI
- Các doanh nghiệp lớn và quốc gia đồng minh nhận ra AI là công nghệ quan trọng không thể thuê ngoài.
- Họ phải kiểm soát và sở hữu nó, bao gồm dữ liệu, cơ sở hạ tầng và triển khai.
- Có sự chuyển dịch lớn về vốn, đầu tư và chi tiêu vốn theo hướng này.
- Reflection đang xây dựng một công ty cung cấp dịch vụ AI cho bất kỳ ai muốn kiểm soát vận mệnh và trí tuệ của họ.
- Điều này bao gồm phần mềm, suy luận và các ứng dụng được sử dụng nội bộ.
- AI là một dạng lao động, điều này giải thích giá hiện tại của nó.
- Người tiêu dùng chính của lao động trong thị trường là các tập đoàn lớn, chính phủ và tổ chức khổng lồ.
Cung cấp suy luận
- Có một quan niệm sai lầm phổ biến rằng loại hình kinh doanh này chỉ cung cấp dịch vụ kỹ thuật.
- Thực tế, những gì Reflection làm là cung cấp suy luận.
- Các phòng thí nghiệm đóng cung cấp suy luận, và các phòng thí nghiệm mở ở Trung Quốc cung cấp API cũng cung cấp suy luận.
- Ước tính có hàng chục gigawatt suy luận mô hình mở sẽ được cung cấp trong vài năm tới.
- Reflection giúp doanh nghiệp, cơ quan chính phủ và cơ quan khu vực công cung cấp và mở rộng quy mô suy luận của riêng họ.
Trung tâm dữ liệu và biên lợi nhuận
- Sở hữu trung tâm dữ liệu có thể hợp lý trong một trạng thái cuối nhất định.
- Quyền sở hữu cho phép tăng biên lợi nhuận.
- Mô hình mở biến mô hình đóng thành hàng hóa.
- Cạnh tranh ở lớp ứng dụng trở thành hàng hóa vì mô hình là nền tảng.
- Phần mềm cơ sở cũng trở thành hàng hóa.
- Các công ty tích hợp dọc tích lũy biên lợi nhuận qua các lớp khác nhau sẽ bền vững nhất.
- Trong giai đoạn đầu của thị trường, mục tiêu là phát hành mô hình mở tuyệt vời và mở rộng suy luận tối đa.
Công thức doanh thu
- Có hai quan điểm về vấn đề này.
- Thị trường này rất lớn đến mức hỗ trợ nhiều công ty lớn.
- Đa cực là tốt vì nó cung cấp cho khách hàng nhiều lựa chọn.
- Công thức doanh thu là: mật độ trí tuệ nhân với lượng tính toán khả dụng nhân với mức độ tin cậy kết nối bạn với công ty.
- Các công ty đưa ra quyết định dựa trên khả năng cốt lõi và sau đó là mức độ tin cậy của họ đối với bạn.
- Xây dựng mô hình thiết lập sự tin cậy đáng kể.
- Các tổ chức và khu vực công không tinh vi về mặt kỹ thuật như một số công ty Thung lũng Silicon.
- Họ đang tìm kiếm một đối tác trí tuệ đáng tin cậy, không chỉ là nhà cung cấp suy luận.
Mô hình mở phương Tây so với Trung Quốc
- Có lo ngại về phản ứng dữ dội từ chính quyền đối với các công ty sử dụng mô hình mở của Trung Quốc.
- Trong kỷ nguyên internet, phần mềm mở là cơ sở hạ tầng mà mọi thứ được xây dựng trên đó.
- Internet được xây dựng bằng phần mềm mở được phát triển tại Hoa Kỳ.
- Điều này ảnh hưởng đáng kể đến vị thế của Hoa Kỳ trên thế giới.
- AI và mô hình mở sẽ là lớp cơ sở hạ tầng mà nền kinh tế mới được xây dựng trên đó.
- Không ai nên đánh giá thấp tầm quan trọng của việc sở hữu lớp này.
- Khi các mô hình này trở nên mạnh mẽ hơn, rủi ro bảo mật liên quan cũng tăng lên.
- Có thể có một tác nhân mà bạn tiêm một tin nhắn và nó đột nhiên làm điều gì đó có hại.
- Nếu bạn không sử dụng các mô hình mà bạn có thể kiểm tra và đảm bảo có một công ty đáng tin cậy cung cấp thông tin này, bạn đang tự đặt mình vào rủi ro không cần thiết.
Quan hệ đối tác thương mại
- Reflection có công việc ở Hàn Quốc như một mô hình hợp tác với các quốc gia khác.
- Reflection có quan hệ đối tác với Dell.
- Khi triển khai mô hình ra thế giới, điều quan trọng là hệ sinh thái không tự phát sinh.
- Cần phải là người tham gia tích cực vào việc xây dựng hệ sinh thái và làm việc với các đối tác.
- Cần đảm bảo tích hợp và hỗ trợ mô hình trên tất cả các lớp hệ thống.
- Điều này bao gồm các nền tảng điện toán đám mây hiện đại, nhà cung cấp suy luận khác, nhà cung cấp đám mây siêu quy mô và các công ty như Dell.
- Reflection có một nhóm phần mềm mã nguồn mở hoàn chỉnh có nhiệm vụ chính là xây dựng phần mềm mã nguồn mở xung quanh mô hình.
- Reflection sẽ phát hành các công cụ mã nguồn mở được thiết kế để tích hợp với mô hình.
Vai trò của đối tác trong cơ sở hạ tầng
- Một số điều mà tổ chức, cơ quan chính phủ và thực thể khu vực công làm tốt hơn.
- Những điều khác họ cần đối tác.
- Điều này thường liên quan đến chuyên môn như cung cấp đất, năng lượng và cơ sở hạ tầng.
- Đây là những nút thắt thực sự hạn chế triển khai tính toán.
- Nếu bạn có một máy chủ không được kết nối với điện, bạn không thể đầu tư vào nó và nó sẽ không hữu ích.
- Quan hệ đối tác như vậy cho phép bạn có được năng lượng, đất đai và cơ sở hạ tầng.
- Dell là một trong những nhà cung cấp cơ sở hạ tầng tốt nhất trên thế giới.
- Ví dụ, một trung tâm dữ liệu ở Hàn Quốc với công suất 250 megawatt.
Thị trường tính toán chuyển sang suy luận
- Thị trường tính toán ngày nay chủ yếu dựa vào mua hàng.
- Cơ sở hạ tầng vật lý được bán cho các nhà cung cấp đám mây siêu quy mô.
- Thị trường này đang chuyển nhanh chóng sang suy luận.
- Thay vì bán dịch vụ mua hàng, bạn bán suy luận cho các công ty khác, bao gồm cả công ty của bạn.
- Bạn cần một mô hình mở vì bạn không thể có được một mô hình đóng để chạy trên phần cứng của riêng bạn.
- Bạn cần một đối tác để thiết lập cơ sở hạ tầng cho bạn vì bạn thiếu chuyên môn.
- Reflection hoạt động ở lớp phần mềm trên lớp cơ sở.
Ẩn dụ về sự phát triển của AWS
- Có ba nhà cung cấp dịch vụ đám mây chính: GCP, AWS và Azure.
- Họ bắt đầu vì họ muốn giải quyết các vấn đề nội bộ của riêng họ.
- AWS cần hỗ trợ hoạt động kinh doanh của Amazon.
- GCP được xây dựng trên các máy chủ vì Google có công cụ tìm kiếm khổng lồ phục vụ hàng tỷ khách hàng.
- Google đã giải quyết một vấn đề nội bộ giúp phát triển sản phẩm của riêng mình.
- Nhu cầu nội bộ dẫn đến sự phát triển của công nghệ này.
- Sau đó họ nhận ra công nghệ này có thể được sử dụng rộng rãi hơn.
- Điều này dẫn đến kỷ nguyên internet và tất cả các công ty SaaS được xây dựng trên điện toán đám mây.
- Chúng ta đang bước vào một kỷ nguyên tương tự nơi chúng ta cần tầm nhìn để xây dựng một mô hình tiên phong.
Kinh nghiệm vận hành quy mô lớn
- Bằng cách đào tạo các mô hình này, Reflection đưa hàng nghìn tỷ token vào hoạt động của mình.
- Reflection đưa hàng tỷ khách hàng vào hoạt động của mình.
- Reflection đã xây dựng công nghệ để quản lý các cụm rất lớn trên nhiều đội GPU khác nhau.
- Reflection cung cấp suy luận trên chúng và cô lập khách hàng ở quy mô lớn.
- Trong một phòng thí nghiệm đóng, đây chỉ là một sự trừu tượng.
- Nếu bạn là một tổ chức hoặc công ty muốn sở hữu phần mềm của mình, Reflection cung cấp tất cả phần mềm mà họ đã xây dựng và thử nghiệm ở quy mô lớn.
- Reflection cung cấp cho họ khả năng tương tự như một phòng thí nghiệm mô hình đóng tiên phong thông qua quan hệ đối tác.
Tác động đến các phòng thí nghiệm đóng
- Có một thế giới đang thay đổi và chúng ta liên tục đánh giá thấp tiềm năng doanh thu trong thị trường AI.
- AI cung cấp lao động nhân tạo sẵn sàng.
- Lao động khan hiếm và khó có được nhiều hơn.
- Có sự thiếu hụt tất cả các loại lao động ở quốc gia này và các quốc gia khác.
- Khó hiểu thế giới sẽ như thế nào khi có cả lao động người và lao động nhân tạo sẵn có.
- Chúng ta vẫn đang ở giai đoạn đầu khám phá độ sâu của các thị trường này.
- Khái niệm mô hình mở chỉ mới bắt đầu.
- Các phòng thí nghiệm mô hình đóng sẽ hoạt động tốt vì họ sở hữu ba yếu tố: mật độ trí tuệ, GPU và sự tin cậy.
- Xu hướng tích cực nhất là hướng tới một thế giới đa cực với nhiều nhà cung cấp trí tuệ.
- Tốt hơn nhiều khi có 10 hoặc 20 mô hình thay vì hai hoặc ba.
Kế hoạch tương lai
- Nhiệm vụ và tầm nhìn của công ty là thu hẹp khoảng cách giữa biên giới mở và đóng.
- Reflection đặt mục tiêu nằm trên biên giới của trí tuệ.
- Để đạt được điều này, cần mở rộng quy mô tính toán và kích thước mô hình.
- Reflection có các mô hình lớn hơn nhiều sẽ phát hành vào năm 2027.
- Điều tương tự cũng áp dụng cho quy mô học tăng cường.
- Học tăng cường có đặc tính có thể xảy ra theo từng đợt.
- Sẽ có một cấu trúc tương tự với một mô hình cơ sở lớn hơn, sau đó là nhiều phiên bản phát hành sau đó.
- Reflection đã bắt đầu xây dựng thế hệ mô hình tiếp theo.
- Reflection sẽ có thể phát hành và chia sẻ thêm với thế giới vào năm 2027.
Dự án học tăng cường quy mô lớn
- Có điều gì đó đặc biệt trong công việc của Yannis, cụ thể là trong AlphaGo và AlphaZero.
- Một trong những điều truyền cảm hứng mạnh mẽ là phát triển một thuật toán không ngừng học hỏi.
- Khi AlphaGo đánh bại Lee Sedol, nó đã trở nên siêu thông minh.
- Ở giai đoạn đó, bạn có thể thêm nhiều sức mạnh tính toán hơn để làm cho nó thông minh hơn.
- Nhưng không hiệu quả về mặt kinh tế để phát triển nó thêm nữa.
- Khi bắt đầu công ty, họ dự đoán khoảnh khắc quan trọng này cho các mô hình chung, lập trình chung và mô hình thông minh sẽ đến.
- Một trong những thành tựu đáng chú ý nhất của nhóm là khả năng học tăng cường mở rộng liên tục.
- Reflection có dự án học tăng cường lớn nhất được ghi chép và công khai, với quy mô khoảng 10.000 GB.
- Dự án đã chạy trong nhiều tuần và không ngừng học hỏi.
- Đây đơn giản là một nút thắt trong tính toán; càng nhiều tài nguyên tính toán, việc học càng tiếp tục.
- Reflection tin rằng điều này đang xảy ra trên toàn bộ lĩnh vực.
- Các phòng thí nghiệm đóng có thể đã nhận ra điều này sớm hơn.
- Điều rất quan trọng là công bố công nghệ và khoa học này rộng rãi.
- Thách thức là tìm cách mở rộng quy mô mô hình, không chỉ đào tạo trước mà còn học tăng cường.
- Hiện tại chúng ta đang ở thời điểm có thể làm cho mô hình siêu thông minh trong bất kỳ lĩnh vực nào.
- Vấn đề bây giờ hoàn toàn là kinh tế: bạn sẵn sàng đầu tư bao nhiêu tiền và làm thế nào để có được dữ liệu.
- Một số đột phá khoa học cơ bản đã đạt được.
- Thách thức bây giờ là làm cho chúng hiệu quả hơn.
- Điều này rất thú vị vì nó đại diện cho sự trở lại điểm khởi đầu cho cả hai người sáng lập.
Suy nghĩ cuối cùng về AGI
- Yannis là một người tin tưởng vào AGI và gia nhập DeepMind vào năm 2012.
- Sau 14 năm, thật khó để coi những hệ thống này là bất cứ điều gì khác ngoài AGI hoặc một cái gì đó đang trên con đường rõ ràng hướng tới nó.
- Câu hỏi bây giờ là làm thế nào để kích hoạt công nghệ này và làm cho lợi ích của nó lan rộng khắp thế giới.
- Reflection tin rằng đa cực là rất quan trọng.
- Làm thế nào để làm điều đó một cách an toàn nhất có thể?
- Reflection tin vào tầm quan trọng của tính minh bạch, rõ ràng và môi trường nhà phát triển.
- Đây thực sự là một thời điểm phi thường.
Transcript
Summarized by YouSumi from the video's transcript. AI summaries can miss nuance — check the video for exact quotes. Report this summary
Summarize your own video
Paste any YouTube link and get a TL;DR, key points and the full transcript like this one — in seconds.
3 free summaries a day·No credit card·6 output languages