Numenta Mendemonstrasikan Peningkatan Kecepatan 50x pada Jaringan Deep Machine learning dengan meniru cara kerja Otak manusia. Jaringan sparse Numenta membuat dua modifikasi pada lapisan pembelajaran dalam standar, memanfaatkan sparse bobot dan sparse aktivasi renggang.
Jaringan renggang Numenta membuat dua modifikasi pada lapisan pembelajaran dalam standar, memanfaatkan sparse bobot dan sparse aktivasi. Hasil akhirnya adalah jaringan yang lebih jarang yang meniru otak. (Grafik: Business Wire), kalian bisa melihat ilustrasi dibawah ini.
Numenta mengumumkan telah mencapai peningkatan kinerja yang dramatis pada tugas-tugas inferensi di jaringan pembelajaran yang dalam tanpa kehilangan keakuratan. Jaringan Deep learning saat ini telah mencapai banyak hal tetapi mengalami keterbatasan mendasar, termasuk kebutuhan mereka akan daya komputasi yang sangat besar. Model yang besar dan kompleks dapat menghabiskan biaya jutaan dolar untuk dilatih dan dijalankan, dan daya yang dibutuhkan tumbuh dengan kecepatan yang eksponensial, maka dibutuhkan algoritma baru sangat penting untuk menerobos hambatan kinerja ini.
Konsep Sparsity-ketersebaran
Kemajuan yang ditunjukkan oleh Numenta dicapai dengan menerapkan prinsip otak yang disebut sparsity-ketersebaran. Numenta membandingkan jaringan yang jarang dan padat dengan menjalankan algoritme pada Xilinx FPGA (Field Programmable Gate Array) untuk tugas pengenalan suara menggunakan set data Google Speech Commands (GSC). Menggunakan metrik jumlah kata yang diproses per detik, hasilnya menunjukkan bahwa jaringan jarang menghasilkan percepatan lebih dari 50x pada jaringan padat pada papan Xilinx Alveo. Selain itu, Numenta mendemonstrasikan jaringan GSC yang berjalan pada chip Xilinx Zynq, chip yang lebih kecil di mana jaringan padat terlalu besar untuk dijalankan, memungkinkan serangkaian aplikasi baru yang mengandalkan solusi berbiaya rendah dan daya rendah. Dengan menggunakan metrik jumlah kata per detik per watt, kami menunjukkan bahwa jaringan jarang menggunakan daya yang jauh lebih sedikit daripada jaringan padat yang paling efisien.
Demonstrasi pembuktian konsep ini memvalidasi bahwa ketersebaran dapat mencapai akselerasi dan efisiensi daya yang signifikan untuk berbagai platform pembelajaran mendalam dan konfigurasi jaringan, sambil mempertahankan akurasi kompetitif. Pendekatan ini memungkinkan ahli teknologi pembelajaran mesin untuk:
- Menerapkan jaringan yang lebih besar dan lebih kompleks menggunakan sumber daya yang sama.
- Menerapkan lebih banyak salinan jaringan pada sumber daya yang sama.
- Menerapkan jaringan pembelajaran mendalam pada platform edge di mana batasan sumber daya mencegah jaringan yang padat berjalan.
- Mencapai penghematan energi yang besar dan biaya yang lebih rendah karena efisiensi penskalaan.
Masa Depan AI Berdasarkan Prinsip Otak
“Pendekatan perangkat keras algoritmik baru diperlukan untuk memajukan kecerdasan mesin,” kata Priyadarshini Panda, Asisten Profesor di Universitas Yale di bidang Teknik Elektro. “Otak menawarkan panduan terbaik untuk mencapai kemajuan ini di masa depan. Hasil yang diumumkan oleh Numenta menunjukkan harapan besar dengan menerapkan teori kortikal untuk mencapai peningkatan kinerja yang signifikan. “
“sparsity-ketersebaran adalah dasar dari cara kerja otak dan menawarkan kunci untuk membuka peningkatan kinerja yang luar biasa dalam pembelajaran mesin saat ini,” kata Subutai Ahmad, VP Riset dan Teknik Numenta. “Ke depan, penelitian ilmu saraf Numenta telah menghasilkan peta jalan untuk membangun kecerdasan mesin yang akan menghasilkan peningkatan yang sama menariknya dalam hal ketahanan, pembelajaran berkelanjutan, pembelajaran tanpa pengawasan, dan integrasi sensorimotor.”
Profil Numenta
Pengalaman Numenta dalam penelitian ilmu saraf teoretis telah menghasilkan penemuan luar biasa tentang cara kerja otak. Kami telah mengembangkan kerangka kerja yang disebut the Thousand Brains Theory of Intelligence yang akan menjadi dasar untuk memajukan keadaan kecerdasan buatan dan pembelajaran mesin. Dengan menerapkan teori ini ke sistem pembelajaran dalam yang ada, kami mengatasi hambatan hari ini sambil mengaktifkan aplikasi masa depan. https://numenta.com/-Developing machine intelligence through neocortical theory