- AI medis Microsoft sudah mengungguli para ahli dalam diagnosis kompleks
- Pengawasan manusia adalah jawaban Microsoft terhadap ketakutan akan otonomi mesin
- Janji superintelligence yang aman bergantung pada mekanisme kontrol yang tidak terkendali
Microsoft mengalihkan fokusnya dari upaya membangun AI untuk tujuan umum ke sesuatu yang disebut humanistic superintelligence (HSI).
Dalam postingan blog barunya, perusahaan tersebut menjelaskan bagaimana konsepnya adalah membangun sistem yang melayani kepentingan manusia daripada mengejar otonomi terbuka.
Berbeda dengan “kecerdasan umum buatan”, yang oleh sebagian orang dianggap berpotensi tidak dapat dikendalikan, model Microsoft memerlukan keseimbangan antara inovasi dan pengawasan manusia.
Fokus baru pada kedokteran dan pendidikan
Microsoft mengatakan bahwa HSI adalah bentuk intelijen tingkat lanjut yang dapat dikontrol dan digerakkan oleh tujuan yang berfokus pada penyelesaian masalah sosial tertentu.
Salah satu bidang pertama yang diharapkan perusahaan untuk membuktikan nilai HSI adalah diagnostik medis, dengan sistem diagnostiknya, MAI-DxO, yang dilaporkan mencapai tingkat keberhasilan 85% dalam tantangan medis yang kompleks – melampaui kinerja manusia.
Microsoft berpendapat bahwa sistem seperti itu dapat meningkatkan akses terhadap pengetahuan kesehatan tingkat pakar di seluruh dunia.
Perusahaan juga melihat potensi dalam pendidikan, membayangkan pendamping AI yang beradaptasi dengan gaya belajar setiap siswa, bekerja sama dengan guru untuk menciptakan pelajaran dan latihan yang disesuaikan.
Hal ini terdengar menjanjikan namun menimbulkan pertanyaan umum mengenai privasi, ketergantungan, dan dampak jangka panjang dari penggantian bagian interaksi manusia dengan sistem algoritmik, serta pertanyaan lain tentang bagaimana alat AI ini akan divalidasi, diatur, dan diintegrasikan ke dalam lingkungan klinis dunia nyata tanpa menimbulkan risiko baru.
Di balik layar, kecerdasan super bergantung pada kekuatan komputasi yang sangat besar.
Ambisi HSI Microsoft bergantung pada pusat data berskala besar yang dilengkapi dengan perangkat keras intensif CPU untuk memproses informasi dalam jumlah besar.
Perusahaan yakin konsumsi listrik dapat meningkat lebih dari 30% pada tahun 2050, didorong oleh perluasan infrastruktur AI.
Ironisnya, teknologi yang diharapkan dapat mengoptimalkan produksi energi terbarukan juga mendorong permintaan energi terbarukan.
Microsoft bersikeras bahwa AI akan membantu merancang baterai yang lebih efisien, mengurangi emisi karbon, dan mengelola jaringan energi, namun dampak bersihnya terhadap lingkungan masih belum pasti.
Mustafa Suleiman, kepala AI Microsoft, mencatat bahwa “AI super cerdas” tidak boleh diberikan otonomi penuh, pengembangan diri, atau pengarahan diri sendiri.
Dia menyebut proyek ini “kemanusiaan,” yang dirancang khusus untuk menghindari risiko sistem yang berkembang di luar kendali manusia.
Pernyataannya menunjukkan semakin besarnya kegelisahan di dunia teknis mengenai pengelolaan model yang semakin kuat, sebagaimana diyakinkan oleh gagasan pencegahan, namun tidak ada konsensus tentang bagaimana batasan tersebut dapat diterapkan ketika suatu sistem mampu memodifikasi dirinya sendiri.
Visi Microsoft untuk kecerdasan super humanistik sangat menarik namun masih belum teruji, dan masih belum pasti apakah Microsoft dapat memenuhi janjinya.
Ikuti TechRadar di Google Berita Dan Tambahkan kami sebagai sumber daya pilihan Untuk mendapatkan berita, ulasan, dan opini pakar kami di feed Anda. Pastikan untuk mengklik tombol ikuti!
Dan tentu saja Anda juga bisa Ikuti TechRadar di TikTok Dapatkan berita, review, unboxing dalam bentuk video, dan update rutin dari kami Ada apa Juga
