Awal tahun ini, pemimpin Google AI Jeff Dean, dalam sebuah podcast, membahas sebuah konsep yang, pada waktu itu, hampir tidak dibicarakan di luar lingkaran teknologi yang rumit: distilasi.
Dalam membicarakan pengembangan model AI Google, Dean mengatakan bahwa dia dan rekan-rekannya menemukan teknik distilasi kecerdasan buatan karena Google sedang mencari cara untuk meningkatkan kinerja sistemnya tanpa bergantung pada satu model pengenalan gambar besar.
“Melalui distilasi, yang merupakan teknik kunci untuk membuat model yang lebih kecil lebih mampu, Anda harus memiliki model perbatasan untuk kemudian didistilasi ke dalam model kecil Anda,” kata Dean pada bulan Februari.
Lima bulan kemudian, distilasi tiba-tiba menjadi topik sensitif dari Silicon Valley hingga Washington, D.C., saat para ahli teknologi dan pembuat kebijakan mendebat apakah praktik ini berubah menjadi ancaman keamanan nasional dan memungkinkan China mengejar AS dalam perlombaan AI yang berisiko tinggi. Kekhawatiran muncul akhir pekan lalu setelah laboratorium China Moonshot AI merilis Kimi K3, dan pengguna dengan cepat menemukan bahwa itu kompetitif dengan AI terbaik yang tersedia secara komersial dari Anthropic dan OpenAI.
Berbeda dengan perusahaan AI terkemuka di AS, yang menjual akses ke model-properti, Moonshot dan laboratorium China lainnya menawarkan model yang disebut model open-weight yang memungkinkan pengguna untuk mengunduh teknologi, menyesuaikannya, dan menjalankannya di mana pun mereka mau.
Beberapa pejabat pemerintah mengatributkan kemampuan Moonshot untuk mengejar dengan cepat kepada distilasi, menggambarkannya sebagai pencurian kekayaan intelektual Amerika, khususnya dengan mengintegrasikan model Fable perbatasan dari Anthropic.
“Kami memiliki informasi bahwa Moonshot AI mendistilasi Fable dari Anthropic untuk pengembangan model K3-nya,” kata penasihat Gedung Putih Michael Kratsios diposting di X pada hari Rabu. “Untuk melakukan ini mereka mengembangkan platform internal yang canggih untuk melakukan distilasi skala besar terhadap model AS, memungkinkan mereka untuk dengan cepat beralih antara beberapa metode akses untuk menghindari deteksi.”
Pada tingkat tinggi, distilasi mengacu pada penggunaan jawaban dari chatbot atau produk kerja dari model AI yang canggih untuk melatih model lain. Praktik ini kontroversial karena, tergantung pada bagaimana ia digunakan, dapat memungkinkan pengembang model untuk membuat tawaran kompetitif hanya dengan menggunakan keluaran dari perusahaan yang telah menginvestasikan jutaan atau miliaran dolar untuk mengembangkan teknologi pelatihan yang paling canggih.
“Ini seperti seseorang mengikuti kuliah, membaca buku teks, dan melakukan semua pekerjaan sulit untuk mengerjakan PR,” kata Pukar Hamal, pendiri perusahaan keamanan AI SecurityPal. “Kemudian siswa lain seperti, ‘Hei, saya tidak melakukan itu. Bisakah saya hanya menyalin pekerjaanmu?'”
Apakah itu postingan Kratsios atau hal lainnya, raksasa teknologi terbesar di planet ini berkumpul pada hari Jumat dengan cara yang mungkin belum pernah terjadi sebelumnya untuk memperjelas posisi mereka. Setelah serangkaian posting media sosial sepanjang minggu, raksasa teknologi Nvidia, Microsoft, Meta, Palantir bergabung dengan lebih dari 20 perusahaan lainnya untuk merilis surat yang mendesak pembuat kebijakan untuk menghindari “pembatasan prematur” pada model AI open-weight yang akan “menghambat kompetisi atau mendorong inovasi ke luar negeri.”
“Distilasi, atau praktik menggunakan keluaran satu model untuk membantu melatih atau meningkatkan model lain, adalah teknik yang banyak digunakan untuk perbaikan, evolusi, dan validasi model,” tulis mereka.
Memperumit masalah China
Munculnya distilasi menghadirkan teka-teki bagi pembuat kebijakan AS, yang telah lama khawatir tentang teknologi China dalam hal pencurian kekayaan intelektual dan masalah keamanan nasional.
Colin Shea-Blymyer, seorang rekan peneliti di Pusat Keamanan dan Teknologi yang Berkembang Georgetown, mengatakan pemerintah AS sedang mencoba mencari tahu posisinya.
Pemerintah dapat berpendapat bahwa perusahaan-perusahaan China dan Rusia “telah menggunakan keluaran dari model-model Amerika yang bekerja keras untuk membuat mereka lebih berkinerja, dan sehingga mereka memiliki keuntungan yang tidak adil di sana,” kata Shea-Blymyer.
Box CEO Aaron Levie adalah salah satu penandatangan surat hari Jumat. Levie mengatakan dalam sebuah wawancara bahwa untuk tetap kompetitif, perusahaan AS perlu dapat mengakses teknologi terbaik, tidak peduli di mana itu dikembangkan.
“Umumnya, lengkungannya akan menjadi bahwa semakin banyak inovasi yang ada, apakah itu dari AS atau China atau lainnya, Anda harus mengharapkan lebih banyak kemajuan AI, dan umumnya itu akan cenderung menjadi lebih murah dan lebih efisien seiring berjalannya waktu,” kata Levie.
Meskipun banyak diskusi saat ini berfokus pada model AI open-weight China seperti Kimi K3, banyak perusahaan telah mengadopsi teknik distilasi saat menciptakan model mereka sendiri, kata Shashi Bellamkonda, direktur riset di Info-Tech Research Group. Nvidia, misalnya, menggunakan distilasi sebagai bagian dari proses pelatihan untuk serangkaian model Llama Nemotron, seperti yang dijelaskan dalam makalah penelitian yang menyertainya.
“Ini adalah teknik yang sah dan sangat berharga untuk melatih model yang lebih kecil dan lebih murah berdasarkan keluaran model yang lebih besar, dan dipraktikkan sepanjang waktu,” kata Bellamkonda.
Namun, Anthropic memiliki pandangan yang berbeda, karena perusahaan melihat bagaimana modelnya digunakan dan memiliki bisnis yang berkembang untuk dilindungi. Pada bulan Februari, perusahaan mengatakan bahwa kemampuan Claude-nya didistilasi pada “skala industri” oleh DeepSeek, Moonshot, dan MiniMax di Cina, yang menggunakan sekitar 24.000 akun palsu, menghasilkan 16 juta pertukaran.
Anthropic, yang bernilai hampir $1 triliun dan memiliki aspirasi untuk go public dalam waktu dekat, mengatakan menghentikan distilasi yang ilegal merupakan masalah keamanan nasional.
“Anthropic dan perusahaan AS lainnya membangun sistem yang mencegah aktor negara dan non-negara menggunakan AI untuk, misalnya, mengembangkan senjata biologi atau melakukan aktivitas siber yang jahat,” kata perusahaan itu dalam postingan bulan Februarinya. Dan menghentikannya membutuhkan “tindakan cepat, terkoordinasi antara para pelaku industri, pembuat kebijakan, dan komunitas AI global.”
OpenAI dan Anthropic melarang distilasi dalam syarat layanan mereka. Bellamkonda mengatakan mereka pada dasarnya menyarankan bahwa menggunakan model yang lebih besar tanpa otorisasi berarti potensi pencurian kekayaan intelektual.
Tetapi dengan biaya AI yang meroket, perusahaan akan melakukan apa pun yang diperlukan untuk meningkatkan efisiensi.
Hamal mengatakan dia tidak akan punya masalah menggunakan model open-weight China seperti Kimi K3 di SecurityPal, yang mengotomatiskan penilaian keamanan menggunakan AI. Dia mengatakan itu bisa menghemat banyak uang.
“Kami akan memastikan bahwa tidak ada pintu belakang jahat dalam kode,” kata Hamal. “Tetapi menghostingnya di infrastruktur kami sendiri setelah kami melakukan penilaian, kenapa tidak?”
Satu masalah besar bagi Anthropic dan OpenAI saat mereka mencoba membuat kasus tentang pencurian kekayaan intelektual adalah bahwa kedua perusahaan telah bergantung pada sumber konten lain untuk membangun model mereka, dan telah dituntut karena melakukannya.
Max Pritt, seorang pengacara untuk Boies Schiller Flexner yang mewakili penulis buku dalam litigasi hak cipta melawan perusahaan AI, mengatakan pemerintah berada dalam situasi yang sama.
“Administrasi, setidaknya secara publik, telah memfokuskan upayanya pada perlindungan kekayaan intelektual perusahaan teknologi, sementara tetap diam dalam banyak hal tentang kekayaan intelektual pencipta dan individu yang digunakan tanpa otorisasi,” kata Pritt.
LIHAT: Perusahaan AI China menemukan cara untuk memonetisasi meskipun model mereka tetap terbuka
