DeepMind Memecahkan Rekor 50 Tahun dalam Matematika Menggunakan AI; rekor baru jatuh seminggu kemudian

adalah perkalian matriks di hati dari banyak terobosan dalam pembelajaran mesin, dan sekarang dua kali lebih cepat. Minggu lalu DeepMind diumumkan ia menemukan cara yang lebih efisien untuk melakukan perkalian matriks dan memecahkan rekor berusia 50 tahun. Minggu ini dua peneliti Austria di Johannes Kepler University Linz aksi legal Mereka telah melampaui rekor baru ini dengan satu langkah.

perkalian matriks, mengandung perkalian dua deretan angka persegi panjang, sering ditemukan di jantung pengenalan suara, pengenalan gambar, pemrosesan gambar ponsel cerdas, kompresi, dan pembuatan grafik komputer. Unit pemrosesan grafis (GPU) sangat baik dalam melakukan perkalian matriks karena sifat paralelnya yang masif. Anda dapat menguraikan masalah matriks matematika yang besar menjadi banyak bagian dan menyerang bagian-bagian tersebut secara bersamaan dengan algoritme khusus.

Pada tahun 1969, seorang matematikawan Jerman bernama Volker Strassen telah menemukan algoritma terbaik untuk mengalikan matriks 4 × 4, mengurangi jumlah langkah yang diperlukan untuk melakukan perhitungan matriks. Misalnya, mengalikan dua matriks 4×4 menggunakan metode kelas tradisional akan membutuhkan 64 perkalian, sedangkan algoritma Strassen dapat melakukan hal yang sama dalam 49 perkalian.

Menggunakan jaringan saraf yang disebut AlphaTensor, DeepMind dan para penelitinya menemukan cara untuk mengurangi angka itu menjadi 47 perkalian. menerbitkan makalah tentang pertunjukan di Nature minggu lalu.

Beralih dari 49 langkah ke 47 tidak terdengar banyak, tetapi jika Anda mempertimbangkan berapa triliun perhitungan matriks yang terjadi di GPU setiap hari, bahkan peningkatan bertahap dapat menghasilkan peningkatan efisiensi yang besar, memungkinkan aplikasi AI berjalan lebih cepat pada perangkat keras yang ada. .

Jika matematika hanya permainan, AI menang

AlphaTensor adalah keturunan dari AlphaGo (das dikalahkan Kejuaraan Dunia berjalan pemain pada 2017) dan AlphaNull, yang berhubungan dengan catur dan shogi. DeepMind menyebut AlphaTensor “sistem AI pertama yang menemukan algoritme baru, efisien, dan terbukti benar untuk tugas-tugas mendasar seperti perkalian matriks.”

Untuk menemukan algoritma matematika matriks yang lebih efisien, DeepMind membangun masalah seperti permainan pemain tunggal. Perusahaan ditulis tentang proses lebih detail dalam posting blog minggu lalu:

Dalam game ini, papan adalah tensor tiga dimensi (bidang angka) yang menangkap seberapa jauh dari kebenaran algoritma saat ini. Melalui serangkaian gerakan hukum sesuai dengan instruksi algoritme, pemain mencoba mengubah tensor dan meniadakan entrinya. Jika pemain berhasil melakukan ini, itu menghasilkan algoritma perkalian matriks yang terbukti benar untuk setiap pasangan matriks, dan efisiensinya diukur dengan jumlah langkah yang diambil ke nol tensor.

DeepMind kemudian menggunakan pembelajaran penguatan untuk melatih AlphaTensor memainkan game matematika fiksi ini – mirip dengan cara AlphaGo belajar bermain berjalan– dan secara bertahap menjadi lebih baik dari waktu ke waktu. Akhirnya, ia menemukan kembali karya Strassen dan matematikawan manusia lainnya, kemudian, menurut DeepMind, melampaui mereka.

Dalam contoh yang lebih rumit, AlphaTensor menemukan cara baru untuk melakukan perkalian matriks 5×5 dalam 96 langkah (naik dari 98 untuk metode lama). Minggu ini Manuel Kauers dan Jakob Moosbauer oleh Johannes Universitas Kepler di Linz, Austria, menerbitkan makalah Mereka mengklaim bahwa mereka mengurangi jumlah itu dengan satu menjadi 95 perkalian. Bukan kebetulan bahwa algoritma baru yang tampaknya memecahkan rekor ini datang begitu cepat karena dibangun di atas karya DeepMind. Dalam makalah mereka, Kauers dan Moosbauer menulis: “Solusi ini diperoleh sesuai dengan skema [DeepMind’s researchers] dengan menerapkan serangkaian transformasi yang mengarah ke skema dari mana perkalian dapat dihilangkan.”

Kemajuan teknologi dibangun dengan sendirinya, dan dengan AI sekarang berebut untuk algoritma baru, ada kemungkinan rekor matematika lama lainnya bisa segera jatuh. Mirip dengan desain berbantuan komputer (CAD) yang memungkinkan pengembangan komputer yang lebih kompleks dan lebih cepat, AI dapat membantu insinyur manusia mempercepat adopsi mereka sendiri.