GPU là gì ? GPU có vai trò với AI như thế nào ? Tại sao NVIDIA trở thành công ty tỷ đô với GPU?

Tags: news
Thứ năm, 25 tháng 04, 2024

Nhân sự kiện FTP và NVIDA ký kết về việc thành lập nhà máy AI với hệ thống siêu máy tính sử dụng GPU H100 dành cho nghiên cứu và phát triển mới đây, chúng ta sẽ tìm hiểu một chút về GPU nhé.

GPU là gì ?

GPU (Graphic Processing Unit) là một vi mạch máy tính thực hiện các phép tính toán học nhanh chóng dùng trong image render (kết xuất đồ họa). Ban đầu, GPU được sử dụng để render hình ảnh 2D và 3D cho hoạt hình và video, nhưng hiện nay chúng có một phạm vi sử dụng rộng hơn, đặc biệt là trong trí tuệ nhân tạo (AI).

GPU chính là một thiết bị tăng tốc phần cứng (hardware accelerator). Các bạn có thể đọc bài viết về khái niệm này tại link sau
https://ictc.edu.vn/tim-hieu-ve-hardware-accelerators-nhung-nguoi-ban-dac-biet-cua-may-tinh/

Ứng dụng của GPU

Một thiết bị điện tử với GPU tích hợp hoặc gắn ngoài có thể tạo ra đồ họa 3D và nội dung video một cách mượt mà, làm cho nó phù hợp cho các ứng dụng AI về thị giác. GPU hiện đại cũng được điều chỉnh để phù hợp với một loạt các nhiệm vụ rộng lớn hơn so với ban đầu, một phần là vì chúng có khả năng lập trình cao hơn so với quá khứ. Một số ứng dụng phổ biến nhất của GPU bao gồm:

  • Tăng tốc việc tạo ra đồ họa 2D và 3D thời gian thực.
  • Chỉnh sửa video và tạo nội dung video.
  • Đồ họa trò chơi video.
  • Tăng tốc ứng dụng Machine Learning như nhận dạng hình ảnh và nhận diện khuôn mặt.
  • Huấn luyện mạng nơ-ron học sâu.

GPU hoạt động thế nào ?

GPU hoạt động bằng cách sử dụng các bộ xử lý song song để thực hiện các phép tính cùng một lúc trên nhiều dữ liệu. Quá trình này gọi là xử lý song song (parallel processing), cho phép GPU xử lý một lượng lớn các phép tính đồng thời. Điều này đặc biệt hữu ích cho các ứng dụng đòi hỏi tính toán cao như đồ họa máy tính, trí tuệ nhân tạo và tính toán khoa học.

GPU thường có nhiều lõi xử lý (cores) hơn so với CPU, và mỗi lõi có thể thực hiện một phần nhỏ của nhiệm vụ toàn bộ. Thay vì xử lý các tác vụ tuần tự một cách tuần tự như CPU, GPU có thể xử lý nhiều tác vụ cùng một lúc, tăng tốc đáng kể quá trình tính toán.

Ngoài ra, GPU thường được trang bị với bộ nhớ (RAM) riêng để lưu trữ dữ liệu mà chúng đang xử lý, giúp tăng hiệu suất bằng cách giảm thời gian truy cập dữ liệu từ bộ nhớ chính của hệ thống. Điều này rất quan trọng đối với các ứng dụng đòi hỏi xử lý nhanh chóng của dữ liệu lớn như đồ họa và trí tuệ nhân tạo

Tại sao GPU lại phù hợp với AI ?

GPUs được gọi là “kim loại hiếm” – thậm chí là vàng – của trí tuệ nhân tạo, bởi vì chúng là nền tảng cho thời đại trí tuệ nhân tạo ngày nay.
Với đặc tính thiết kế của nó, GPU thực hiện các phép tính kỹ thuật nhanh hơn và hiệu quả năng lượng hơn so với CPU. Điều đó có nghĩa là chúng cung cấp hiệu suất hàng đầu cho việc huấn luyện AI cũng như những lợi ích trên một loạt các ứng dụng sử dụng tính toán tăng tốc (accelerated computing).

NVIDIA và GPU

NVDIA đã nổi tiếng với GPU từ rất lâu rồi, nhưng trước đây GPU của họ chủ yếu dùng trong đồ họa, xử lý hình ảnh.
Qua thời gian, các kỹ sư tại NVIDIA đã liên tục điều chỉnh các nhân GPU để đáp ứng nhu cầu thay đổi của các mô hình trí tuệ nhân tạo. Các GPU mới nhất có các lõi Tensor Core mạnh mẽ hơn 60 lần so với các thiết kế đầu tiên, được tinh chỉnh đặc biệt để xử lý các phép tính ma trận trong mạng nơ-ron..

Trong suốt quá trình phát triển, mỗi thế hệ GPU đã tăng dung lượng bộ nhớ và triển khai các chiến lược tối ưu hóa để chứa toàn bộ mô hình trí tuệ nhân tạo trong một GPU hoặc một cụm GPU.

NVIDA sở hữu những con chip GPU mạnh mẽ nhất trên thị trường với giá cực kì đắt đỏ.
Tiêu biểu như dòng chip Tensor core H100 mà FPT dự định dùng cho nhà máy AI của mình có giá lên đến 40.000 USD.

H100 Tensor Core

Vào năm 2023, Nvidia H100 là chip đồ họa GPU mãnh mẽ nhất trên thì trường, đồng thời cũng có mức giá đắt đỏ nhất. Thông số kỹ thuật cho thấy nó mạnh gấp ba lần bản tiền nhiệm A100, nhưng chi phí vận hành chỉ bằng 1,5-2 lần. Thế nhưng, nó cũng đã nhanh chóng bị vượt qua bởi Blackwell B200 của chính hãng này, con chip mạnh nhất thế giới mới được ra mắt vào tháng trước.

Nhiều quốc gia và các ông lớn trong ngành công nghệ đều muốn thu thập những con chip GPU, như H100 nhiều nhất có thể. Với sự nở rộ của AI, GPU hiệu năng cao như H100 hay Blackwell B200 trở thành công cụ để xây dựng mô hình LLM – cốt lõi của ứng dụng chatbot AI. Hiện chỉ có NVIDIA đủ khả năng sản xuất GPU mạnh như H100, do đó họ toàn quyền quyết định sản lượng trên thị trường.

Elon Musk nói việc tìm mua GPU thậm chí “khó hơn so với chất gây nghiện”. Một số khách hàng phải đợi sáu tháng để nhận H100. Ian Buck, người đứng đầu bộ phận kinh doanh của Nvidia, cho biết nhiệm vụ khó khăn nhất của công ty là tăng nguồn cung H100 nhằm đáp ứng khách hàng. “Nhu cầu thị trường rất lớn. Nhiều đơn vị đang đặt mua hàng chục nghìn GPU”, ông nói.

Với nhu cầu khổng lồ về chip AI, NVIDIA nghiễm nhiên trở thành công ty được săn đón bật nhất thế giới.
Cụ thể, nhà sản xuất chip bán dẫn lớn nhất thế giới ghi nhận 22,1 tỷ USD doanh thu trong quý IV/2023, vượt trội so với dự báo 20,4 tỷ USD của phố Wall. So với cùng kỳ năm ngoái, doanh thu của Nvidia cao tới hơn 265%. Trong khi đó, lợi nhuận của họ trong cùng giai đoạn đạt 12,29 tỷ USD, cao gấp gần 8 lần so với quý IV/2022. “Công nghệ AI đã bước vào một kỷ nguyên mới”, nhà sáng lập Nvidia Jensen Huang, chia sẻ. “Nhu cầu chip AI đang không ngừng gia tăng trên quy mô toàn cầu”.

Chính “cơn sốt” này đã giúp tăng vốn hóa của công ty lên ngưỡng 1.700 tỷ USD, vượt quá ông lớn công nghệ sừng sỏ khác là Alphabet (công ty mẹ của Google) để trở thành doanh nghiệp có vốn hóa thị trường lớn thứ ba tại Mỹ. Nvidia chính là viên ngọc sáng trên thị trường chứng khoán, giúp chỉ số S&P 500 liên tục thiết lập các đỉnh cao mới kể từ khi bước sang năm mới 2024.

——————————————————

Tìm hiểu lộ trình cho người mới bắt đầu để hiểu thêm về công việc, ngành nghề, đãi ngộ và những kiến thức cần thiết để học thiết kế vi mạch và tham gia vào thị trường vi mạch.
Lộ Trình Bắt Đầu Ngành Thiết Kế Vi Mạch Bán Dẫn

Truy cập Server EDA Miễn Phí của ICTC để thực hành thiết kế vi mạch:
Truy cập Server EDA Miễn Phí

Hiện tại ICTC đang mở các khóa học thiết kế vi mạch từ cơ bản đến nâng cao, các bạn có thể tìm hiểu tại các bài viết sau nhé:

Thứ năm, 25 tháng 04, 2024
Đức Lê

Co-Founder ICTC - RTL Design Engineer

Mình đã có hơn 10 năm làm việc trong lĩnh vực vi mạch, tập trung vào khâu thiết kế RTL. Dù là một ngành nghề đang phát triển mạnh mẽ, thế nhưng, thông tin về thiết kế vi mạch vẫn còn khá mơ hồ, không rõ ràng. Điều này làm cho những người trẻ, đặc biệt là những ai mới bước vào lĩnh vực này, gặp không ít khó khăn khi muốn tìm hiểu và tiếp cận kiến thức. Nhận thức được những khó khăn này, chúng mình quyết định thành lập ICTC - một nơi không chỉ chia sẻ kiến thức mà còn truyền đạt những thông tin thực tế, từ cơ bản đến chuyên sâu về lĩnh vực thiết kế vi mạch. Mục tiêu của ICTC là giúp các bạn trẻ nắm vững kiến thức, hiểu rõ về ngành nghề và từ đó, có thể xây dựng một hướng đi đúng đắn cho sự nghiệp trong tương lai của mình. Chúng mình tin rằng, với sự đam mê và kiến thức chuyên sâu, mọi khó khăn đều có thể vượt qua, và hành trình chinh phục thế giới vi mạch sẽ trở nên thú vị hơn bao giờ hết.

Đội Ngũ Giảng Viên Đến Từ Các Công ty vi mạch hàng đầu với NHiều năm kinh nghiệm

Khóa học thiết kế vi mạch ICTC giảng viên từ Ampere
Khóa học thiết kế vi mạch ICTC giảng viên từ Renesas
Khóa học thiết kế vi mạch ICTC giảng viên từ MediaTek Singapore
Khóa học thiết kế vi mạch ICTC giảng viên từ BOS
Khóa học thiết kế vi mạch ICTC giảng viên từ Marvell
Khóa học thiết kế vi mạch ICTC giảng viên từ Renesas
Khóa học thiết kế vi mạch ICTC giảng viên từ NSING
Lê Tiến Đạt

Lê Tiến Đạt

DFT Engineer - SemiFive

"Mình chuyển sang vi mạch thực sự khoảng đầu năm nay, mông lung và mất định hướng. Trong quá trình tự học thì biết đến ICTC, cũng nghĩ mục tiêu ban đầu là học để có cái nhìn tổng quát về ngành chứ không nghĩ là sẽ nhận được nhiều như vậy từ các anh. Mình phỏng vấn lần đầu tiên vào tháng 1, sau 6 tháng nỗ lực và tham gia cùng với ICTC thì mình nhận được offer."

Nguyễn Thị Phương Quỳnh

Nguyễn Thị Phương Quỳnh

Technical Engineer - Synopsys

"Trong mùa hè muốn phát triển bản thân, mình đã chọn tham gia khóa học IC Overview tại ICTC để củng cố kiến thức về RTL và DV. Trước đây, mình chỉ tập trung coding module mà bỏ qua kỹ năng thiết kế - điều cốt lõi của kỹ sư vi mạch. Qua khóa học, mình hiểu rõ hơn vai trò và công việc thực tế của một kỹ sư vi mạch. Đội ngũ giảng viên giàu kinh nghiệm đã hỗ trợ tận tình cả trong và ngoài lớp học, giúp mình cải thiện đáng kể, đặc biệt khi phỏng vấn cho các offer hiện tại của mình. Xin cảm ơn anh Ân và ICTC rất nhiều!"

Phan Vinh Phong

Phan Vinh Phong

RTL Design Engineer - BOS Semiconductor

"Những ngày tu luyện miệt mài trên server của ICTC được đền đáp bằng một offer RTL Design đầu tiên, một thành quả không tưởng với bản thân mình của 3 tháng trước. Mình thực sự rất biết ơn các anh giảng viên trong đội ngũ ICTC đã tạo nên một môi trường học tập vô cùng chuyên nghiệp, tâm huyết và đầy cảm hứng để các bạn trẻ như mình, dù xuất phát điểm trái ngành, vẫn có thể tự tin theo đuổi và hiện thực hóa giấc mơ của trong lĩnh vực vi mạch."

Nguyễn Thanh Vương

Nguyễn Thanh Vương

Design Verification Engineer - FPT Semiconductor

"Khóa học quá oke ấy chứ ạ. Lúc trước em fail 3 lần pv và nhận ra mình thiếu project vs tool EDA thực tế, khóa học có server vs thạo VIM em thấy lợi thế hơn hẳn luôn ấy."

Lê Duy Thức

Lê Duy Thức

Technical Engineer - Synopsys

"Khóa học thiết kế vi mạch cơ bản do anh Ân phụ trách thật sự rất bổ ích. Anh Ân dạy rất dễ hiểu, lại còn cực kỳ thân thiện và luôn sẵn sàng hỗ trợ tụi em khi gặp khó khăn. Em thấy nội dung khóa học giúp ích rất nhiều cho quá trình phỏng vấn thực tập sau này. Đặc biệt, phần final project khiến em nắm vững hơn về cách đọc và hiểu code RTL, cực kỳ thực tế và sát với công việc. Đây là một khóa học đáng giá cho những ai muốn học và làm về thiết kế vi mạch."

Phan Minh Khôi

Phan Minh Khôi

PD Engineer - ADT Technology & SNST

"Nhờ các kiến thức của khóa học tại trung tâm nên em có cái nhìn chi tiết hơn về ngành, giúp em trả lời tốt các câu hỏi tạo điểm cộng trong mắt nhà tuyển dụng."

Nổi Bật

Tổng Kết Khóa Học Thiết Kế Vi Mạch Cơ Bản Tháng 6 2024

Tổng Kết Khóa Học Thiết Kế Vi Mạch Cơ Bản Tháng 6 2024

Hôm nay, khóa học Thiết kế Vi mạch Cơ bản tại Trung tâm ICTC đã chính thức khép lại với buổi lễ tổng kết ý nghĩa. Đây là dịp để giảng viên và học viên cùng nhau nhìn lại hành trình học tập, những thành quả đạt được, và chia sẻ cảm nghĩ sau khóa học. Cảm Nghĩ Của Học...

TỔNG KẾT OFFLINE VI MẠCH 07/2024

TỔNG KẾT OFFLINE VI MẠCH 07/2024

Vậy là sau hơn 4 tiếng đồng hồ giao lưu và chia sẻ các kiến thức về tổng quan ngành vi mạch, các vị trí việc làm, tuyển dụng, các kinh nghiệm học tập, phỏng vấn, ... buổi offline ngày hôm nay đã kết thúc thành công tốt đẹp.Rất cảm ơn các bạn đã không ngại đường xá xa...

Bài Viết Mới

VLSI Testing – Phần 3: Testing Trong Quy Trình Sản Xuất IC

VLSI Testing – Phần 3: Testing Trong Quy Trình Sản Xuất IC

Bài viết nằm trong series về VLSI Testing Hình dưới đây mô tả các bước để làm ra 1 con chip. Sau khi chip đã được thiết kế hoàn chỉnh, một số con chip mẫu (prototype chip) sẽ được gửi về để test (prototype test). Sau khi quá trình testing hoàn tất và fix tất cả các...

VLSI Testing – Phần 2: Test Là Quá Trình Đưa Ra Quyết Định

VLSI Testing – Phần 2: Test Là Quá Trình Đưa Ra Quyết Định

Bài viết nằm trong series bài viết về VLSI Testing Các Khả Năng Xảy Ra Khi Test Chip Có 4 khả năng xảy ra khi test chip 1.True PASS: tất cả các tính năng của chip đều được test một cách chính xác, chip hoạt động tốt, không có defect nào cả. 2.Test escape: quá trình...

VLSI Testing – Phần 1: VLSI Testing (Chip Testing) Là Gì?

VLSI Testing – Phần 1: VLSI Testing (Chip Testing) Là Gì?

Bài viết nằm trong series bài viết về VLSI Testing. VLSI Testing là gì? VLSI testing, hay chip testing là quá trình diễn ra sau IC đã được sản xuất, nhằm xác định một phần hoặc toàn bộ chip hoạt động đúng tính năng hay không (PASS or FAIL).Testing là công đoạn bắt...

BẠN CHƯA BIẾT BẮT ĐẦU TỪ ĐÂU?

Sau nhiều năm tư vấn và đào tạo vi mạch cho hàng trăm bạn sinh viên, học sinh và phụ huynh, kết hợp với kinh nghiệm từ các anh chị kỹ sư vi mạch có nhiều năm kinh nghiệm, đây là tất cả những kinh nghiệm và tài liệu mà mình đúc kết, tổng hợp lại được thành một quy trình tìm hiểu ngành vi mạch để các bạn mình mới tham gia vào ngành có thể bắt đầu một cách hiệu quả nhất.

 

Bấm nút bên dưới để tìm hiểu về ngành, về nghề nghiệp cũng như những thứ bản thân cần chuẩn bị để tham gia vào hành trình trở thành kỹ sư vi mạch tuy có phần gian nan nhưng vô cùng thú vị bạn nhé!

LỘ TRÌNH TỰ HỌC VI MẠCHGROUP CHAT HỌC TẬP VI MẠCH