Theo dõi báo trên:
Khi các công ty công nghệ gấp rút tích hợp AI vào phần mềm và dịch vụ của họ, họ phải đối mặt với chi phí điện toán cao hơn đáng kể. Tuy nhiên, chạy AI tổng quát trên thiết bị di động, thay vì thông qua đám mây trên các máy chủ do các tập đoàn công nghệ lớn vận hành, có thể là câu trả lời một trong những câu hỏi kinh tế lớn nhất mà công nghệ này đặt ra.
Ảnh: Algoworks
Tuần trước, Google cho biết họ đã chạy một phiên bản PaLM 2, mô hình ngôn ngữ lớn mới nhất của họ, trên một chiếc điện thoại Samsung Galaxy.
Mặc dù họ không trình diễn công khai mô hình thu nhỏ được gọi là Gecko, nhưng động thái này là dấu hiệu mới nhất cho thấy một dạng AI yêu cầu tài nguyên ít hơn đang nhanh chóng phát triển.
Sự thay đổi này có thể làm cho các dịch vụ như chatbot trở nên rẻ hơn rất nhiều và mở đường cho nhiều ứng dụng biến đổi hơn bằng cách sử dụng AI.
“Bạn cần tạo ra AI kết hợp, chạy cả trong trung tâm dữ liệu và cục bộ, nếu không chúng sẽ cực kỳ tốn kém", ông Cristiano Amon, CEO của công ty chip di động Qualcomm, nói. "Khai thác bộ nhớ vi xử lý chưa được tận dụng trên thiết bị cầm tay di động là cách tốt nhất để phân bổ chi phí".
Khi ChatGPT ra mắt vào cuối năm ngoái, triển vọng đưa nó lên thiết bị cầm tay dường như còn xa vời. Các thiết bị cầm tay thiếu bộ nhớ để chứa các mô hình lớn như ChatGPT, cũng như thiếu bộ nhớ cần thiết để chạy chúng.
Việc tạo phản hồi cho một truy vấn trên thiết bị, thay vì đợi trung tâm dữ liệu từ xa đưa ra kết quả, cũng có thể giảm độ trễ khi sử dụng ứng dụng. Khi dữ liệu cá nhân của người dùng được sử dụng để tinh chỉnh các phản hồi chung, việc giữ tất cả quá trình xử lý trên thiết bị cầm tay cũng có thể nâng cao quyền riêng tư.
Hơn bất cứ điều gì, AI có thể giúp thực hiện các hoạt động thông thường trên điện thoại thông minh dễ dàng hơn, chẳng hạn như sản xuất văn bản. “Bạn có thể nhúng AI vào mọi ứng dụng văn phòng. Bạn nhận được email, nó sẽ gợi ý phản hồi. AI cần có khả năng chạy trên cả thiết bị cũng như trên trung tâm dữ liệu", ông Amon cho biết.
Những tiến bộ nhanh chóng trong một số mô hình cơ bản đã thay đổi cán cân. Đáng chú ý nhất là PaLM 2 của Google và GPT-4 của OpenAI. Nhưng sự bùng nổ của các mô hình nhỏ hơn và khiến việc sử dụng AI dễ dàng hơn mới có thể mang ý nghĩa cách mạng.
Hoàng Tôn (theo FT)
Thích
(CLO) Chiều ngày 22/11, Hội Nhà báo Việt Nam tổ chức Hội nghị phổ biến chủ trương của Đảng, chính sách pháp luật của Nhà nước về Hội và nâng cao chất lượng tham mưu trong công tác văn phòng của Hội Nhà báo khu vực phía Bắc.
(CLO) Hàng trăm tài liệu, cổ vật có niên đại cách ngày nay hơn 2.000 năm, phản ánh sự hình thành và phát triển của nền văn hóa Đông Sơn trên đất Vĩnh Phúc.
(CLO) Ngày 22/11, Ủy ban Chứng khoán Nhà nước (UBCKNN) đã có Quyết định xử phạt Công ty cổ phần chứng khoán SmartInvest gần 1,4 tỷ đồng vì hàng loạt vi phạm.
(CLO) Bất chấp những thách thức từ cuộc chiến tranh xâm lược của Nga, kinh tế Ukraine đã tăng trưởng 4.2% trong 10 tháng đầu năm 2024 so với cùng kỳ năm ngoái, theo thông báo của Bộ Kinh tế Ukraine vào ngày 18 tháng 11.
(CLO) Triều Tiên và Nga vừa ký kết một thỏa thuận mới nhằm thúc đẩy hợp tác kinh tế sau các cuộc hội đàm tại Bình Nhưỡng trong tuần này, theo Thông tấn xã Trung ương Triều Tiên (KCNA).
(CLO) Trung tâm Kiểm soát bệnh tật tỉnh Lào Cai vừa phối hợp với Bệnh viện Tâm thần Trung ương 1 thực hiện điều tra, phỏng vấn sâu người dân vùng lũ lịch sử gây chết và mất tích nhiều người ở xã Phúc Khánh.
(CLO) Trong những tuần gần đây, các hãng sản xuất ô tô lớn trên thế giới đã liên tiếp công bố kế hoạch cắt giảm nhân sự và đóng cửa nhà máy khi họ chật vật tìm kiếm lợi nhuận từ các dòng xe điện (EV) và đối mặt với làn sóng cạnh tranh từ những sản phẩm giá rẻ hơn.
(CLO) Chính quyền Tổng thống Joe Biden vừa thông báo với Quốc hội kế hoạch xóa 4,65 tỷ USD khoản nợ mà Ukraine đang gánh chịu, theo một bức thư do Bloomberg News thu thập được.
(CLO) Hai anh em họ từ Nghệ An ra Hà Nội học nghề cắt tóc. Tuy nhiên, cả hai lại rủ nhau buôn ma túy và bị Công an bắt giữ.
(CLO) Ngày 22/11, Toà án nhân dân tỉnh Hà Tĩnh mở phiên toà sơ thẩm xét xử các bị cáo: Xeng và Sisavanh Yongyaerlor (cùng SN 1988, trú huyện Khăm Cợt, tỉnh Bolikhămxay, Lào) về tội “Vận chuyển trái phép chất ma túy”.
(CLO) Ngày 22/11, tại Nhà Thái Học thuộc Văn Miếu - Quốc Tử Giám (Hà Nội) đã diễn ra Vòng Chung kết Giải thưởng Hành động vì Cộng đồng - Human Act Prize 2024 với chủ đề “Cộng đồng kiến tạo”.
(CLO) Ngày 22/11, Hội môi giới Bất động sản Việt Nam (VARS) đã công bố Bộ Quy tắc đạo đức, ứng xử nghề nghiệp mới nhằm nâng cao uy tín, chất lượng và trách nhiệm của môi giới.
(CLO) Phó Chủ tịch UBND TP Hà Nội Nguyễn Mạnh Quyền vừa ký ban hành Quyết định số 6068/QĐ-UBND ngày 22/11/2024 về việc công bố tình huống khẩn cấp các sạt lở trên các tuyến đê hữu Bùi, Bùi 2, Gò Khoăm, sạt lở bờ sông Bùi trên địa bàn huyện Chương Mỹ.
(CLO) Tỉnh Lai Châu cam kết tạo mọi thuận lợi để hỗ trợ các doanh nghiệp khai thác du lịch với mục tiêu "doanh nghiệp phát tài - Lai Châu phát triển''.
(CLO) Lần đầu tiên, Liên hoan phim hoạt hình “Dòng khát vọng” được tổ chức nhân kỷ niệm 65 năm ngành Hoạt hình Việt Nam ra đời (9/11/1959).
(CLO) Ngày 22/11, Phó Chủ tịch UBND thành phố Hà Nội Nguyễn Trọng Đông và lãnh đạo các sở, ngành thành phố đi kiểm tra tiến độ thi công và thực hiện Dự án hệ thống xử lý nước thải Yên Xá.
(CLO) Tỷ phú Elon Musk, chủ sở hữu mạng xã hội X, đã chỉ trích dự luật của Úc, trong đó cấm trẻ em dưới 16 tuổi sử dụng mạng xã hội và phạt các mạng xã hội lên tới 49,5 triệu AUD (32 triệu USD) đối với các vi phạm.
(CLO) Sau khi bị tòa án Mỹ tuyên vi phạm luật chống độc quyền trong thị trường tìm kiếm trực tuyến, Google đang đối mặt với yêu cầu từ Bộ Tư pháp Mỹ (DoJ) buộc phải bán trình duyệt Chrome.
(CLO) Ở Trung Quốc, giới trẻ ngày càng sử dụng mạng xã hội không chỉ để kết nối với bạn bè mà còn để thuê người lạ để trò chuyện.
(CLO) Meta đã bị EU phạt gần 800 triệu euro với cáo buộc cạnh tranh không lành mạnh bằng cách liên kết dịch vụ 'rao vặt' Marketplace với mạng xã hội Facebook.
(CLO) TikTok hôm thứ Năm công bố rằng nền tảng tạo video AI mang tên Symphony Creative Studios đã có sẵn trên toàn cầu cho tất cả các nhà quảng cáo.
(CLO) Việc tỷ phú Elon Musk ủng hộ ông Donald Trump dự kiến sẽ giúp mạng xã hội X (trước đây là Twitter) khôi phục kinh doanh, khi một số thương hiệu bắt đầu quay lại quảng cáo trên nền tảng này để tranh thủ sự ủng hộ từ chính quyền mới.
(CLO) Ngày 12/11, các tờ báo lớn của Pháp, bao gồm Le Monde, Le Figaro và Le Parisien, cho biết họ đang có hành động pháp lý chống lại mạng hội X, cáo buộc nền tảng này sử dụng nội dung của họ mà không trả tiền.
(CLO) Các nhà quảng cáo dự kiến sẽ chi số tiền kỷ lục là 10,5 tỷ bảng cho quảng cáo Giáng sinh tại Vương quốc Anh trong mùa này, song không ưu tiên cho truyền hình truyền thông.
(CLO) Vào đầu thế kỷ 19, thủ đô London của Vương quốc Anh có hàng chục tờ báo in hàng ngày. Nhưng ngày nay, việc các tờ báo thay đổi định dạng đã đánh dấu sự kết thúc của tin tức địa phương hàng ngày trên báo in.
(CLO) Espresso, ứng dụng tin tức ngắn gọn của The Economist, sử dụng AI để dịch nội dung video sang nhiều ngôn ngữ nhằm tiếp cận đối tượng độc giả trẻ trên toàn cầu.
