GPU là gì ? GPU có vai trò với AI như thế nào ? Tại sao NVIDIA trở thành công ty tỷ đô với GPU?

Tags: news
Thứ năm, 25 tháng 04, 2024

Nhân sự kiện FTP và NVIDA ký kết về việc thành lập nhà máy AI với hệ thống siêu máy tính sử dụng GPU H100 dành cho nghiên cứu và phát triển mới đây, chúng ta sẽ tìm hiểu một chút về GPU nhé.

GPU là gì ?

GPU (Graphic Processing Unit) là một vi mạch máy tính thực hiện các phép tính toán học nhanh chóng dùng trong image render (kết xuất đồ họa). Ban đầu, GPU được sử dụng để render hình ảnh 2D và 3D cho hoạt hình và video, nhưng hiện nay chúng có một phạm vi sử dụng rộng hơn, đặc biệt là trong trí tuệ nhân tạo (AI).

GPU chính là một thiết bị tăng tốc phần cứng (hardware accelerator). Các bạn có thể đọc bài viết về khái niệm này tại link sau
https://ictc.edu.vn/tim-hieu-ve-hardware-accelerators-nhung-nguoi-ban-dac-biet-cua-may-tinh/

Ứng dụng của GPU

Một thiết bị điện tử với GPU tích hợp hoặc gắn ngoài có thể tạo ra đồ họa 3D và nội dung video một cách mượt mà, làm cho nó phù hợp cho các ứng dụng AI về thị giác. GPU hiện đại cũng được điều chỉnh để phù hợp với một loạt các nhiệm vụ rộng lớn hơn so với ban đầu, một phần là vì chúng có khả năng lập trình cao hơn so với quá khứ. Một số ứng dụng phổ biến nhất của GPU bao gồm:

  • Tăng tốc việc tạo ra đồ họa 2D và 3D thời gian thực.
  • Chỉnh sửa video và tạo nội dung video.
  • Đồ họa trò chơi video.
  • Tăng tốc ứng dụng Machine Learning như nhận dạng hình ảnh và nhận diện khuôn mặt.
  • Huấn luyện mạng nơ-ron học sâu.

GPU hoạt động thế nào ?

GPU hoạt động bằng cách sử dụng các bộ xử lý song song để thực hiện các phép tính cùng một lúc trên nhiều dữ liệu. Quá trình này gọi là xử lý song song (parallel processing), cho phép GPU xử lý một lượng lớn các phép tính đồng thời. Điều này đặc biệt hữu ích cho các ứng dụng đòi hỏi tính toán cao như đồ họa máy tính, trí tuệ nhân tạo và tính toán khoa học.

GPU thường có nhiều lõi xử lý (cores) hơn so với CPU, và mỗi lõi có thể thực hiện một phần nhỏ của nhiệm vụ toàn bộ. Thay vì xử lý các tác vụ tuần tự một cách tuần tự như CPU, GPU có thể xử lý nhiều tác vụ cùng một lúc, tăng tốc đáng kể quá trình tính toán.

Ngoài ra, GPU thường được trang bị với bộ nhớ (RAM) riêng để lưu trữ dữ liệu mà chúng đang xử lý, giúp tăng hiệu suất bằng cách giảm thời gian truy cập dữ liệu từ bộ nhớ chính của hệ thống. Điều này rất quan trọng đối với các ứng dụng đòi hỏi xử lý nhanh chóng của dữ liệu lớn như đồ họa và trí tuệ nhân tạo

Tại sao GPU lại phù hợp với AI ?

GPUs được gọi là “kim loại hiếm” – thậm chí là vàng – của trí tuệ nhân tạo, bởi vì chúng là nền tảng cho thời đại trí tuệ nhân tạo ngày nay.
Với đặc tính thiết kế của nó, GPU thực hiện các phép tính kỹ thuật nhanh hơn và hiệu quả năng lượng hơn so với CPU. Điều đó có nghĩa là chúng cung cấp hiệu suất hàng đầu cho việc huấn luyện AI cũng như những lợi ích trên một loạt các ứng dụng sử dụng tính toán tăng tốc (accelerated computing).

NVIDIA và GPU

NVDIA đã nổi tiếng với GPU từ rất lâu rồi, nhưng trước đây GPU của họ chủ yếu dùng trong đồ họa, xử lý hình ảnh.
Qua thời gian, các kỹ sư tại NVIDIA đã liên tục điều chỉnh các nhân GPU để đáp ứng nhu cầu thay đổi của các mô hình trí tuệ nhân tạo. Các GPU mới nhất có các lõi Tensor Core mạnh mẽ hơn 60 lần so với các thiết kế đầu tiên, được tinh chỉnh đặc biệt để xử lý các phép tính ma trận trong mạng nơ-ron..

Trong suốt quá trình phát triển, mỗi thế hệ GPU đã tăng dung lượng bộ nhớ và triển khai các chiến lược tối ưu hóa để chứa toàn bộ mô hình trí tuệ nhân tạo trong một GPU hoặc một cụm GPU.

NVIDA sở hữu những con chip GPU mạnh mẽ nhất trên thị trường với giá cực kì đắt đỏ.
Tiêu biểu như dòng chip Tensor core H100 mà FPT dự định dùng cho nhà máy AI của mình có giá lên đến 40.000 USD.

H100 Tensor Core

Vào năm 2023, Nvidia H100 là chip đồ họa GPU mãnh mẽ nhất trên thì trường, đồng thời cũng có mức giá đắt đỏ nhất. Thông số kỹ thuật cho thấy nó mạnh gấp ba lần bản tiền nhiệm A100, nhưng chi phí vận hành chỉ bằng 1,5-2 lần. Thế nhưng, nó cũng đã nhanh chóng bị vượt qua bởi Blackwell B200 của chính hãng này, con chip mạnh nhất thế giới mới được ra mắt vào tháng trước.

Nhiều quốc gia và các ông lớn trong ngành công nghệ đều muốn thu thập những con chip GPU, như H100 nhiều nhất có thể. Với sự nở rộ của AI, GPU hiệu năng cao như H100 hay Blackwell B200 trở thành công cụ để xây dựng mô hình LLM – cốt lõi của ứng dụng chatbot AI. Hiện chỉ có NVIDIA đủ khả năng sản xuất GPU mạnh như H100, do đó họ toàn quyền quyết định sản lượng trên thị trường.

Elon Musk nói việc tìm mua GPU thậm chí “khó hơn so với chất gây nghiện”. Một số khách hàng phải đợi sáu tháng để nhận H100. Ian Buck, người đứng đầu bộ phận kinh doanh của Nvidia, cho biết nhiệm vụ khó khăn nhất của công ty là tăng nguồn cung H100 nhằm đáp ứng khách hàng. “Nhu cầu thị trường rất lớn. Nhiều đơn vị đang đặt mua hàng chục nghìn GPU”, ông nói.

Với nhu cầu khổng lồ về chip AI, NVIDIA nghiễm nhiên trở thành công ty được săn đón bật nhất thế giới.
Cụ thể, nhà sản xuất chip bán dẫn lớn nhất thế giới ghi nhận 22,1 tỷ USD doanh thu trong quý IV/2023, vượt trội so với dự báo 20,4 tỷ USD của phố Wall. So với cùng kỳ năm ngoái, doanh thu của Nvidia cao tới hơn 265%. Trong khi đó, lợi nhuận của họ trong cùng giai đoạn đạt 12,29 tỷ USD, cao gấp gần 8 lần so với quý IV/2022. “Công nghệ AI đã bước vào một kỷ nguyên mới”, nhà sáng lập Nvidia Jensen Huang, chia sẻ. “Nhu cầu chip AI đang không ngừng gia tăng trên quy mô toàn cầu”.

Chính “cơn sốt” này đã giúp tăng vốn hóa của công ty lên ngưỡng 1.700 tỷ USD, vượt quá ông lớn công nghệ sừng sỏ khác là Alphabet (công ty mẹ của Google) để trở thành doanh nghiệp có vốn hóa thị trường lớn thứ ba tại Mỹ. Nvidia chính là viên ngọc sáng trên thị trường chứng khoán, giúp chỉ số S&P 500 liên tục thiết lập các đỉnh cao mới kể từ khi bước sang năm mới 2024.

——————————————————

Tìm hiểu lộ trình cho người mới bắt đầu để hiểu thêm về công việc, ngành nghề, đãi ngộ và những kiến thức cần thiết để học thiết kế vi mạch và tham gia vào thị trường vi mạch.
Lộ Trình Bắt Đầu Ngành Thiết Kế Vi Mạch Bán Dẫn

Truy cập Server EDA Miễn Phí của ICTC để thực hành thiết kế vi mạch:
Truy cập Server EDA Miễn Phí

Hiện tại ICTC đang mở các khóa học thiết kế vi mạch từ cơ bản đến nâng cao, các bạn có thể tìm hiểu tại các bài viết sau nhé:

Thứ năm, 25 tháng 04, 2024
Đức Lê

Co-Founder ICTC - RTL Design Engineer

Mình đã có hơn 10 năm làm việc trong lĩnh vực vi mạch, tập trung vào khâu thiết kế RTL. Dù là một ngành nghề đang phát triển mạnh mẽ, thế nhưng, thông tin về thiết kế vi mạch vẫn còn khá mơ hồ, không rõ ràng. Điều này làm cho những người trẻ, đặc biệt là những ai mới bước vào lĩnh vực này, gặp không ít khó khăn khi muốn tìm hiểu và tiếp cận kiến thức. Nhận thức được những khó khăn này, chúng mình quyết định thành lập ICTC - một nơi không chỉ chia sẻ kiến thức mà còn truyền đạt những thông tin thực tế, từ cơ bản đến chuyên sâu về lĩnh vực thiết kế vi mạch. Mục tiêu của ICTC là giúp các bạn trẻ nắm vững kiến thức, hiểu rõ về ngành nghề và từ đó, có thể xây dựng một hướng đi đúng đắn cho sự nghiệp trong tương lai của mình. Chúng mình tin rằng, với sự đam mê và kiến thức chuyên sâu, mọi khó khăn đều có thể vượt qua, và hành trình chinh phục thế giới vi mạch sẽ trở nên thú vị hơn bao giờ hết.

Đội Ngũ Giảng Viên Đến Từ Các Công ty vi mạch hàng đầu với NHiều năm kinh nghiệm

Khóa học thiết kế vi mạch ICTC giảng viên từ Ampere
Khóa học thiết kế vi mạch ICTC giảng viên từ Renesas
Khóa học thiết kế vi mạch ICTC giảng viên từ MediaTek Singapore
Khóa học thiết kế vi mạch ICTC giảng viên từ BOS
Khóa học thiết kế vi mạch ICTC giảng viên từ Marvell
Khóa học thiết kế vi mạch ICTC giảng viên từ Renesas
Khóa học thiết kế vi mạch ICTC giảng viên từ NSING
Nguyễn Thanh Vương

Nguyễn Thanh Vương

Design Verification Engineer - FPT Semiconductor

"Khóa học quá oke ấy chứ ạ. Lúc trước em fail 3 lần pv và nhận ra mình thiếu project vs tool EDA thực tế, khóa học có server vs thạo VIM em thấy lợi thế hơn hẳn luôn ấy."

Lê Tiến Đạt

Lê Tiến Đạt

Semiconductor Engineer - SemiFive

"Mình chuyển sang vi mạch thực sự khoảng đầu năm nay, mông lung và mất định hướng. Trong quá trình tự học thì biết đến ICTC, cũng nghĩ mục tiêu ban đầu là học để có cái nhìn tổng quát về ngành chứ không nghĩ là sẽ nhận được nhiều như vậy từ các anh. Mình phỏng vấn lần đầu tiên vào tháng 1, sau 6 tháng nỗ lực và tham gia cùng với ICTC thì mình nhận được offer."

Phan Minh Khôi

Phan Minh Khôi

PD Engineer - ADT Technology & SNST

"Nhờ các kiến thức của khóa học tại trung tâm nên em có cái nhìn chi tiết hơn về ngành, giúp em trả lời tốt các câu hỏi tạo điểm cộng trong mắt nhà tuyển dụng."

Nổi Bật

TỔNG KẾT VÀ TRAO CHỨNG CHỈ CHO CÁC LỚP THIẾT KẾ VI MẠCH CƠ BẢN T4 – T5. TUYỂN SINH LỚP VI MẠCH CƠ BẢN VÀ SYSTEM VERILOG UVM THÁNG 09, 10!

TỔNG KẾT VÀ TRAO CHỨNG CHỈ CHO CÁC LỚP THIẾT KẾ VI MẠCH CƠ BẢN T4 – T5. TUYỂN SINH LỚP VI MẠCH CƠ BẢN VÀ SYSTEM VERILOG UVM THÁNG 09, 10!

Vừa qua, ICTC đã có buổi tổng kết lớp kết hợp Offline và Online (cho các bạn không tham dự trực tiếp) để trao chứng chỉ cho các bạn hoàn thành đồ án cuối khóa. Đây là điều kiện tiên quyết để nhận chứng chỉ. Chúc mừng các bạn đã đạt thành tích tốt trong 3 tháng vừa...

HỌC VIÊN ICTC NHẬN ĐƯỢC OFFER TỪ SEMIFIVE 

HỌC VIÊN ICTC NHẬN ĐƯỢC OFFER TỪ SEMIFIVE 

HỌC VIÊN ICTC NHẬN ĐƯỢC OFFER TỪ SEMIFIVE , ICTC NÂNG CẤP SERVER EDA, TIẾP TỤC KHAI GIẢNG CÁC KHOÁ THIẾT KẾ VI MẠCH CƠ BẢN CUỐI THÁNG 8! Trong thời gian vừa qua ICTC đã liên tục nâng cấp hệ thống server EDA thiết kế vi mạch cho gần 100 học viên, giảng viên và các...

Bài Viết Mới

Khai Giảng Khóa Học Thiết Kế Vi Mạch Cơ Bản Tháng 26/08/2024

Khai Giảng Khóa Học Thiết Kế Vi Mạch Cơ Bản Tháng 26/08/2024

Cuối tháng 8 vừa rồi, ICTC đã tiến hành khai giảng lớp thiết kế vi mạch cơ bản (Fundamental IC Design & Verification) thứ 2 trong tháng với anh giảng viên đến từ Synopsys - công ty hàng đầu về thiết kế IP & EDA tools cho vi mạch. Buổi khai giảng đã diễn ra vui...

TỔNG KẾT VÀ TRAO CHỨNG CHỈ CHO CÁC LỚP THIẾT KẾ VI MẠCH CƠ BẢN T4 – T5. TUYỂN SINH LỚP VI MẠCH CƠ BẢN VÀ SYSTEM VERILOG UVM THÁNG 09, 10!

TỔNG KẾT VÀ TRAO CHỨNG CHỈ CHO CÁC LỚP THIẾT KẾ VI MẠCH CƠ BẢN T4 – T5. TUYỂN SINH LỚP VI MẠCH CƠ BẢN VÀ SYSTEM VERILOG UVM THÁNG 09, 10!

Vừa qua, ICTC đã có buổi tổng kết lớp kết hợp Offline và Online (cho các bạn không tham dự trực tiếp) để trao chứng chỉ cho các bạn hoàn thành đồ án cuối khóa. Đây là điều kiện tiên quyết để nhận chứng chỉ. Chúc mừng các bạn đã đạt thành tích tốt trong 3 tháng vừa...

Lịch Sử Vi Điều Khiển 8051

Lịch Sử Vi Điều Khiển 8051

Nếu bạn đang học môn vi xử lý thì không thể nào không biết đến con 8051 huyền thoại này Lịch sử của vi điều khiển 8051 bắt đầu từ cuối những năm 1970 khi Intel phát triển dòng MCS-51, được phát hành vào năm 1980. Intel 8051 là một vi điều khiển 8-bit rất phổ...

BẠN CHƯA BIẾT BẮT ĐẦU TỪ ĐÂU?

Sau nhiều năm tư vấn và đào tạo vi mạch cho hàng trăm bạn sinh viên, học sinh và phụ huynh, kết hợp với kinh nghiệm từ các anh chị kỹ sư vi mạch có nhiều năm kinh nghiệm, đây là tất cả những kinh nghiệm và tài liệu mà mình đúc kết, tổng hợp lại được thành một quy trình tìm hiểu ngành vi mạch để các bạn mình mới tham gia vào ngành có thể bắt đầu một cách hiệu quả nhất.

 

Bấm nút bên dưới để tìm hiểu về ngành, về nghề nghiệp cũng như những thứ bản thân cần chuẩn bị để tham gia vào hành trình trở thành kỹ sư vi mạch tuy có phần gian nan nhưng vô cùng thú vị bạn nhé!

LỘ TRÌNH TỰ HỌC VI MẠCHGROUP CHAT HỌC TẬP VI MẠCH