“On-Device AI” chạy trên chính thiết bị mà không cần kết nối trực tuyến, cung cấp tốc độ nhanh và bảo vệ quyền riêng tư… Samsung phát triển cuộc gọi phiên dịch thời gian thực, tăng nhu cầu về DRAM di động ‘ LPDDR ‘… Khả năng ‘Hai đỉnh’ với HBM
Cơn sốt trí tuệ nhân tạo AI được khởi đầu với Chat GPT và hiện đang mở rộng sang hình thức AI chạy trên thiết bị “On-Device AI”. Sau sự bùng nổ nhu cầu về bộ nhớ băng thông cao HBM và DRAM cho máy chủ AI, một “siêu chu kỳ” trong ngành bán dẫn cũng được dự đoán sẽ xảy ra do sự tăng tốc của AI trên thiết bị.
Theo ngành công nghiệp vào ngày 16, Samsung Electronics gần đây đã tiết lộ “Samsung Gauss”, một AI tổng hợp được phát triển bởi Samsung Research, tại Diễn đàn Samsung AI. Samsung Gauss dựa trên công nghệ máy học, bao gồm ba mô hình: ngôn ngữ, mã và hình ảnh. Trong số này, mô hình ngôn ngữ là công nghệ AI trên thiết bị dự kiến sẽ sớm được sử dụng trong thực tế.
AI trên thiết bị là AI được cài đặt trên hệ thống đám mây (máy chủ ảo), tức là trên chính thiết bị đó mà không cần kết nối Internet. Ưu điểm của AI trên thiết bị bao gồm: △ Tốc độ phản hồi nhanh, △ Bảo vệ thông tin cá nhân và △ Tiêu thụ điện năng thấp.
Dịch vụ AI trên thiết bị được Samsung Electronics giới thiệu là chức năng gọi phiên dịch theo thời gian thực (AI Live Translate Call) có tên là “Galaxy AI”. Tính năng này có thể sẽ được áp dụng cho dòng Galaxy S24 sẽ ra mắt vào đầu năm sau, cho phép người dùng nói ngôn ngữ mẹ đẻ của họ trong khi gọi điện thoại và được dịch sang ngôn ngữ của người khác trong thời gian thực mà không cần cài đặt ứng dụng riêng. Nội dung phiên dịch có thể xem được ở cả định dạng âm thanh và văn bản. Điều này áp dụng ngay cả khi điện thoại của người kia không được trang bị Galaxy AI.
Như vậy AI ‘Jarvis’ của Tony Stark được áp dụng cho bộ đồ trong phim Iron Man cũng có thể trở thành hiện thực. AI trên thiết bị được áp dụng cho robot đeo trên người có thể tự động kiểm tra và thông báo xem robot có bị hỏng hay không, đồng thời giúp tối đa hóa hiệu suất tập luyện của người dùng. AI trên thiết bị được dự kiến sẽ thay đổi đáng kể cuộc sống của chúng ta khi được áp dụng cho tất cả các thiết bị điện tử khác ngoài điện thoại thông minh.
Việc mở rộng AI trên thiết bị dự kiến sẽ dẫn đến sự tăng trưởng mới trong thị trường bộ nhớ bán dẫn. Bởi vì nhu cầu về các chất bán dẫn có tốc độ xử lý dữ liệu nhanh nhưng tiêu thụ điện năng thấp như HBM sử dụng cho máy chủ AI, sẽ trở thành yếu tố thiết yếu trong kỷ nguyên AI trên thiết bị. Điều đầu tiên thu hút sự chú ý là LPDDR (Low-Power Double Data Rate SDRAM). LPDDR đề cập đến một tiêu chuẩn DRAM di động có tên là LP (Nguồn điện thấp) với đặc điểm của nó là DDR (Tốc độ dữ liệu kép), giúp tăng gấp đôi tốc độ xử lý của DRAM và giảm tối thiểu mức tiêu thụ điện năng.
SK Hynix gần đây đã cung cấp cho khách hàng của mình gói LPDDR5T 16GB (gigabyte) nhanh nhất hiện nay, có thể xử lý 9,6Gb (gigabit) dữ liệu mỗi giây. Sản phẩm này hoạt động ở mức điện áp 1,01~1,12V (vôn), tiêu chuẩn điện áp thấp nhất do Tổ chức Tiêu chuẩn Bán dẫn Quốc tế đặt ra và có thể xử lý 15 phim FHD trong 1 giây. Ngoài ra, Apple sẽ cung cấp DRAM đặc biệt cho thiết bị XR (thực tế mở rộng) Vision Pro dự kiến phát hành vào năm tới.
Samsung Electronics đã ra mắt DRAM LLW ( I/O có độ trễ thấp ) chuyên dùng cho AI trên thiết bị tại “Ngày công nghệ bộ nhớ Samsung” được tổ chức tại Thung lũng Silicon, Hoa Kỳ vào tháng trước. LLW, dự kiến ra mắt vào cuối năm sau, là sản phẩm có băng thông tăng từ LPDDR hiện tại và có tốc độ xử lý dữ liệu thời gian thực nhanh hơn. Theo đó, việc mở rộng AI trên thiết bị được kỳ vọng sẽ có tác động tích cực đến hiệu suất của ngành bộ nhớ bán dẫn.
Một quan chức trong ngành cho biết: “Khi thị trường AI phát triển bùng nổ, ngành công nghiệp bán dẫn bộ nhớ đang chứng kiến sự gia tăng về nhu cầu về các sản phẩm hiệu suất cao, công suất cao, năng lượng thấp liên quan đến AI trên thiết bị sau HBM”. Và ông cũng dự đoán rằng “Ngành công nghiệp này sẽ phát triển khi AI trên thiết bị được mở rộng”.
Nguồn: Phóng viên Jang Seong-ju
>>> Tham gia đầu tư chứng khoán Hàn Quốc ngay hôm nay, tiếp cận thị trường mới tìm kiếm cơ hội đạt lợi nhuận lớn cùng chuyên gia Bucket-VN :
- Đăng ký tư vấn miễn phí và bắt tín hiệu thị trường chứng khoán Hàn Quốc tại: https://bucketvn.com/dang-ky-tu-van/
- Hotline: 028 3636 6553
- Fanpage giải trí chứng khoán: https://www.facebook.com/chiDaenggivaanhNonLa/