Hugging Face Kernels merilis pembaruan besar dengan memperkenalkan tipe repositori 'kernel' baru di Hub, memungkinkan pengguna melihat detail akselerator, OS, dan backend yang didukung. Keamanan ditingkatkan melalui 'trusted publishers' dan 'code signing' menggunakan Sigstore cosign untuk mencegah eksekusi kode berbahaya. CLI juga direvamp untuk pemisahan tanggung jawab yang lebih baik antara pustaka kernels dan kernel-builder. Dukungan kini mencakup Torch Stable ABI dan Apache TVM FFI, membuka jalan bagi pengembangan kernel lintas framework.
Poin Penting
- Diperkenalkan tipe repositori 'kernel' baru di Hugging Face Hub untuk kernel kustom.
- Keamanan ditingkatkan dengan 'trusted publishers' dan 'code signing' menggunakan Sigstore cosign.
- Dukungan Torch Stable ABI dan Apache TVM FFI memungkinkan kernel lintas framework.
- CLI
kernelsdankernel-builderdipisah untuk kejelasan dan efisiensi. - Fondasi dibangun untuk pengembangan kernel agentik dengan integrasi HF Jobs untuk benchmarking.
Penjelasan Mendalam
Pembaruan inti pada Hugging Face Kernels berfokus pada standardisasi, keamanan, dan kemudahan penggunaan kernel kustom. Tipe repositori 'kernel' baru di Hugging Face Hub menjadikan kernel sebagai 'first-class citizens', meningkatkan visibilitas dan penemuan tren. Aspek keamanan diperkuat secara berlapis: pertama, Nix digunakan untuk build yang murni dan terisolasi guna mendukung reproduktibilitas, dengan menyematkan Git SHA1 sumber ke dalam kernel. Kedua, diperkenalkan 'trusted kernel publishers' yang membatasi pemuatan kernel secara default hanya dari penerbit tepercaya, memerlukan opt-in eksplisit (trust_remote_code=True) untuk yang lain. Ketiga, 'code signing' menggunakan Sigstore cosign dengan kunci ephemeral dan verifikasi workflow GitHub tepercaya melindungi dari kompromi kredensial penerbit tepercaya. CLI kernels dan kernel-builder kini memiliki pemisahan tanggung jawab yang lebih jelas, membuat keduanya lebih ramping dan spesifik.
Kenapa Ini Penting
Pembaruan ini krusial bagi praktisi AI Indonesia karena menyediakan cara yang lebih aman dan efisien untuk mendistribusikan serta menggunakan kernel kustom yang dapat mempercepat inferensi dan pelatihan model. Peningkatan keamanan mengurangi risiko eksekusi kode berbahaya, sementara dukungan lintas framework membuka fleksibilitas pengembangan.
Untuk Siapa
Pengembang AI, peneliti, dan insinyur machine learning yang bekerja dengan akselerator hardware, ingin mengoptimalkan performa model, atau mengembangkan solusi AI yang membutuhkan komputasi kustom.
Contoh Use Case
- Mengembangkan kernel CUDA kustom untuk operasi spesifik yang tidak didukung pustaka standar.
- Membuat kernel yang kompatibel dengan PyTorch, Jax, dan CuPy menggunakan Apache TVM FFI.
- Menerapkan kernel yang dioptimalkan untuk arsitektur akselerator tertentu (misal: NVIDIA GPU, AMD ROCm).
- Memastikan keamanan kode kustom melalui mekanisme 'trusted publishers' dan 'code signing'.
- Mengintegrasikan kernel kustom ke dalam alur kerja agentik untuk optimasi otomatis.
Cara Mulai
- Jelajahi repositori kernel yang tersedia di Hugging Face Hub di bagian 'kernels'.
- Periksa dokumentasi CLI
kernelsdankernel-builderuntuk memahami cara memuat dan membangun kernel. - Jika Anda pengembang kernel, pelajari cara mendaftar sebagai 'kernel publisher' dan mengimplementasikan 'code signing'.
- Gunakan
has_kernel()untuk memeriksa kompatibilitas kernel pada sistem Anda sebelum memuatnya. - Eksplorasi contoh kernel agentik seperti
drbh/yamoeatausayakpaul/qk-norm-ropeuntuk inspirasi.
Peran: Pakar Keamanan AI
Konteks: Saya sedang mengevaluasi pustaka Hugging Face Kernels yang baru diperbarui, khususnya fitur 'trusted publishers' dan 'code signing'.
Tugas: Jelaskan secara rinci bagaimana mekanisme 'trusted publishers' dan 'code signing' bekerja untuk melindungi pengguna dari kernel berbahaya, serta potensi celah keamanan yang mungkin masih ada.
Format Output: Penjelasan terstruktur dalam Bahasa Indonesia, menggunakan poin-poin untuk setiap mekanisme keamanan dan potensi celah.
Batasan: Jawaban harus spesifik merujuk pada detail yang disebutkan dalam artikel pembaruan Kernels (misal: Sigstore cosign, kunci ephemeral, verifikasi GitHub workflow).
Insight Bisnis
Pengembangan kernel yang aman dan efisien membuka peluang monetisasi melalui penyediaan layanan optimasi performa AI kustom atau platform distribusi kernel yang aman bagi perusahaan.
FAQ
Apa itu 'kernel' dalam konteks Hugging Face?
Kernel adalah kode komputasi kustom, seringkali ditulis dalam bahasa tingkat rendah seperti CUDA atau C++, yang dirancang untuk mempercepat operasi spesifik pada hardware akselerator seperti GPU.
Bagaimana 'trusted publishers' meningkatkan keamanan?
'Trusted publishers' adalah organisasi yang diverifikasi oleh komunitas. Secara default, pustaka kernels hanya akan memuat kernel dari penerbit tepercaya, mengurangi risiko menjalankan kode berbahaya dari sumber yang tidak dikenal.
Apa manfaat Torch Stable ABI?
Torch Stable ABI memungkinkan pengembang kernel menargetkan versi PyTorch tertentu atau versi yang dirilis setelahnya selama sekitar dua tahun, memastikan kompatibilitas jangka panjang untuk kernel yang dibuat.
Bisakah saya memuat kernel dari sumber yang tidak tepercaya?
Ya, Anda bisa memuat kernel dari sumber yang tidak tepercaya dengan secara eksplisit mengatur argumen trust_remote_code=True saat memuat kernel, namun ini memerlukan kehati-hatian ekstra.
Sumber: Hugging Face Blog
Diringkas dan disusun otomatis oleh GrowWithAI AI Pulse. Pelajari lebih lanjut lewat kelas AI GrowWithAI atau buka AI Pulse.