Red Hat dan AMD tengah memperdalam kerja sama mereka untuk meningkatkan dukungan bagi beban kerja AI dan memodernisasi infrastruktur virtual. Tujuan mereka adalah untuk menawarkan lebih banyak opsi bagi organisasi yang menghadapi permintaan data yang terus meningkat dan campuran aplikasi yang berjalan di sistem lokal dan cloud.
Seiring dengan meningkatnya penggunaan AI, kebutuhan akan pusat data yang dapat mendukungnya pun meningkat. Namun, banyak yang masih berfokus pada beban kerja TI tradisional, sehingga hanya menyisakan sedikit kapasitas untuk AI. Untuk membantu mengatasi hal ini, Red Hat memadukan perangkat lunak sumber terbuka dengan prosesor dan GPU AMD guna menawarkan fondasi yang lebih seimbang dan efisien untuk AI dan mesin virtual.
Bagian penting dari upaya ini adalah memungkinkan GPU AMD Instinct bekerja dengan Red Hat OpenShift AI. Hal ini memberi pengguna akses ke daya komputasi yang dibutuhkan untuk AI sekaligus menjaga penggunaan sumber daya tetap terkendali. Red Hat dan AMD juga menguji GPU Instinct MI300X yang berjalan pada Red Hat Enterprise Linux AI dalam VM ND MI300X v5 Microsoft Azure. Pengujian menunjukkan bahwa GPU ini dapat mendukung model bahasa kecil dan besar tanpa perlu membagi beban kerja di beberapa mesin virtual, sehingga mengurangi biaya dan kompleksitas.
Perusahaan-perusahaan tersebut juga aktif dalam komunitas vLLM hulu, sebuah kelompok yang berfokus pada peningkatan inferensi AI. Dengan memberikan pembaruan seperti pengoptimalan kernel dan peningkatan komunikasi, Red Hat dan AMD bertujuan untuk membuat beban kerja multi-GPU lebih cepat dan lebih efisien. Pekerjaan ini juga mencakup dukungan yang lebih baik untuk model AI terkuantisasi dan padat yang berjalan pada perangkat keras AMD.
Sebagai bagian dari pekerjaan hulu ini, GPU AMD Instinct akan mendukung Red Hat AI Inference Server—versi vLLM yang telah teruji dan siap untuk perusahaan. Red Hat berupaya memastikan bahwa pelanggan dapat menjalankan model AI pada perangkat keras AMD tanpa memerlukan pengaturan khusus. Idenya adalah untuk memberi pengguna cara yang andal untuk menerapkan model AI sumber terbuka pada GPU yang dioptimalkan dan divalidasi untuk pekerjaan ini.
Selain GPU, CPU EPYC AMD berperan dalam menghosting sistem yang didukung GPU. CPU ini mendukung kinerja yang kuat di berbagai beban kerja, termasuk pelatihan dan inferensi AI, sekaligus membantu meningkatkan laba atas investasi dari server GPU.
Selain AI, kemitraan ini juga mendukung perubahan dalam cara bisnis mengelola mesin virtual. Red Hat OpenShift Virtualization, yang berjalan pada prosesor AMD EPYC, membantu organisasi memindahkan aplikasi berbasis VM ke platform berbasis cloud. Fitur ini memungkinkan tim TI mengelola VM dan kontainer dari satu lingkungan—baik yang digunakan di pusat data maupun di seluruh platform cloud publik.
Pengaturan ini dapat meningkatkan penggunaan infrastruktur dan mengurangi biaya overhead. OpenShift Virtualization mendukung penerapan pada merek server utama, termasuk Dell, HPE, dan Lenovo. Perangkat ini dirancang untuk membantu perusahaan menyederhanakan infrastruktur lama, mengurangi biaya total, dan memberi ruang bagi beban kerja baru seperti AI.
Dengan mempermudah menjalankan beban kerja VM dan AI pada infrastruktur yang sama, Red Hat dan AMD berupaya membantu bisnis memanfaatkan sistem yang ada dengan lebih baik sambil mempersiapkan tuntutan masa depan.
Ashesh Badani, wakil presiden senior dan kepala bagian produk di Red Hat, mengatakan, “Menyadari sepenuhnya manfaat AI berarti bahwa organisasi harus memiliki pilihan dan fleksibilitas untuk mengoptimalkan jejak TI mereka untuk menghadapi tantangan permintaan penskalaan. Kolaborasi kami yang diperluas dengan AMD memperluas spektrum opsi bagi organisasi yang ingin menyiapkan lingkungan TI mereka untuk masa depan yang terus berkembang, mulai dari memodernisasi investasi yang ada pada arsitektur CPU berkinerja tinggi dan platform virtualisasi hingga mempersiapkan AI produksi dengan akselerator perangkat keras generasi berikutnya dan teknologi AI sumber terbuka.”
Philip Guido, wakil presiden eksekutif dan kepala bagian komersial di AMD, mengatakan, “Seiring dengan semakin beragamnya beban kerja pelanggan perusahaan, mereka membutuhkan solusi yang dapat ditingkatkan skalanya. Dengan menggabungkan platform sumber terbuka terkemuka di industri dari Red Hat dengan GPU AMD Instinct dan CPU AMD EPYC kelas dunia, kami menghadirkan kinerja dan efisiensi yang dibutuhkan pelanggan untuk mempercepat inovasi AI, virtualisasi, dan cloud hybrid.”
