SISTEM MANAJEMEN KECERDASAN BUATAN ISO/IEC 42001
Apa Itu ISO/IEC 42001?
Ketika Dunia Menyaksikan Kemajuan Yang Tiada Henti Dari Kecerdasan Buatan (AI), Terdapat Peningkatan Kebutuhan Akan Standardisasi Dan Regulasi Yang Efektif Untuk Memastikan Penggunaan AI Yang Bertanggung Jawab.
ISO/IEC 42001 Telah Dikembangkan Untuk Menanggapi Pertanyaan Mendesak Mengenai Ekspansi AI Yang Tidak Terkendali Dan Potensi Ancaman. Ini Menentukan Persyaratan Dan Menawarkan Panduan Untuk Membangun, Menerapkan, Memelihara, Dan Terus Meningkatkan Sistem Manajemen AI (AIMS) Dalam Konteks Organisasi. Hal Ini Memberikan Kerangka Kerja Untuk Penerapan Etis Sistem AI, Menawarkan Pendekatan Komprehensif Untuk Memastikan Bahwa Teknologi AI Selaras Dengan Prinsip Keadilan, Transparansi, Akuntabilitas, Dan Privasi.
Mengapa Kecerdasan Buatan Penting Bagi Anda?
Di Dunia Yang Terus Berkembang Dan Ditandai Dengan Kemajuan Teknologi Yang Tiada Henti, Pengaruh Dan Pentingnya Kecerdasan Buatan Telah Mencapai Tingkatan Baru. AI Menonjol Karena Kemampuannya Yang Luar Biasa Untuk Melampaui Batas-Batas Industri. Hal Ini Tidak Terbatas Pada Sektor Tertentu; Sebaliknya, Pemerintah Mempunyai Kapasitas Untuk Memicu Transformasi Di Berbagai Industri.
Kursus Pelatihan ISO/IEC 42001 Membekali Individu Dengan Kompetensi Yang Diperlukan Untuk Merencanakan, Mengembangkan, Menerapkan, Memelihara, Dan Meningkatkan Sistem Manajemen AI Dalam Organisasi. AIMS Yang Efektif Memungkinkan Organisasi Memanfaatkan Seluruh Potensi AI Di Era Di Mana Adaptasi Teknologi Identik Dengan Kemajuan Dan Kesuksesan. Selain Itu, Hal Ini Membantu Organisasi Mempertahankan Keunggulan Kompetitif Dalam Lingkungan Teknologi Dan Bisnis Yang Terus Berubah.
Manfaat Sertifikasi ISO/IEC 42001
Sertifikat ISO/IEC 42001 Menunjukkan Bahwa Anda Dapat:
- Memahami Pertimbangan Peraturan Dan Etika Seputar Penerapan AI
- Membantu Organisasi Dalam Menyelaraskan Inisiatif AI Dengan Tujuan Bisnis Intinya
- Mendukung Organisasi Dalam Mengembangkan Dan Menerapkan Sistem Manajemen AI
- Evaluasi Kualitas, Keandalan, Dan Kinerja Sistem AI
- Memastikan Solusi AI Memenuhi Standar Tinggi Dan Berfungsi Sebagaimana Mestinya
- Identifikasi Potensi Risiko Terkait AI Dan Terapkan Tindakan Yang Diperlukan Untuk Memitigasi Risiko Tersebut.
Tujuan Dari ISO/IEC 42001 Adalah Untuk Memandu Organisasi Tentang Cara Mengelola Sistem AI (Kecerdasan Buatan) Mereka. Hal Ini Penting Karena Penggunaan AI Dan ML (Machine Learning, Yang Merupakan Bagian Dari AI Yang Sangat Penting) Menimbulkan Beberapa Pertanyaan, Antara Lain Mengenai:
- Transparansi Relatif Dan Kemampuan Menjelaskan Sistem Keputusan Otomatis.
- Penggunaan Keluaran Seperti Analisis Data Dari Sistem ML, Yang Dilatih Dari Data, Sekali Atau Terus Menerus, Dan Beradaptasi Dengan Perubahan Masukannya. Hal Ini Berbeda Dengan Pemrograman Prosedural Tradisional, Karena Sistem AI Dapat Mengubah Perilakunya Selama Penggunaannya.
- Tingkat Otonomi Sistem AI, Seperti Pada Kendaraan Otonom.
Di Departemen Ilmu Data Di National Physical Laboratory (NPL), Kami Menyelidiki Sistem AI Dan ML Dalam Konteks Metrologi (Ilmu Pengukuran), Yang Dapat Memberikan Pengukuran Akurat Yang Mendasari Keyakinan Kami Terhadap Data Yang Digunakan Oleh Sistem Tersebut.
Mendefinisikan Kepercayaan
Dalam Arti Luas, Sebuah Organisasi Harus Berupaya Agar Sistem AI Mereka Dapat Dipercaya. Seseorang Mungkin Menganggap Seseorang “Dapat Dipercaya” Jika Orang Tersebut Dapat Diandalkan, Bertanggung Jawab, Dan Dapat Diandalkan. Untuk Sistem AI, Gagasan Tentang Kepercayaan Lebih Kompleks Dan Mencakup Komponen Terkait Etika, Teknis, Dan Risiko.
Ada Laporan Teknis,ISO/IEC TR 24028, Yang Membahas Beberapa Masalah Ini. Namun, Untuk Lebih Memahami AI Yang Dapat Dipercaya, Penting Untuk Melihat Publikasi Dari Beberapa Sumber, Karena Belum Ada Kesepakatan Pasti Mengenai Definisi Pastinya.
Mengelola Sistem AI Menggunakan ISO/IEC 42001
Penekanan ISO/IEC 42001 Adalah Pada Pengintegrasian Sistem Manajemen AI Dengan Struktur Organisasi Yang Ada. Dalam Standar Tersebut, Sistem Manajemen Didefinisikan Sebagai “Elemen Yang Saling Terkait Atau Berinteraksi Dalam Suatu Organisasi Untuk Menetapkan Kebijakan Dan Tujuan, Serta Proses Untuk Mencapai Tujuan”.
Untuk Mencakup Komponen Sistem Manajemen, Isi Standar Ini Relatif Umum, Dan Kita Mengacu Pada Lampiran Standar Serta Dokumen ISO/IEC Lainnya Untuk Mendapatkan Perspektif AI. Salah Satu Cara Untuk Melihatnya Adalah Daftar Centang Untuk Organisasi Yang Berkaitan Dengan Sistem AI Mereka. Sebagian Besar Dari Hal Ini Adalah Hal Yang Seharusnya Dilakukan Organisasi Dalam Pengelolaan Seluruh Sistem Komputernya, Terlepas Dari Apakah Sistem Tersebut Mengandung Komponen AI Atau Tidak. Hal Yang Menarik Adalah Bahwa ML Tidak Disebutkan Dalam Isi Standar, Melainkan Diserahkan Pada Lampiran.
ISO/IEC 42001 Untuk Tata Kelola Dan Kepercayaan
Standar Ini Memiliki Empat Lampiran. AI Yang Dapat Dipercaya Disebutkan Dalam Lampiran A Sebagai Bagian Dari Panduan Manajemen Pengembangan Sistem AI. Dalam Lampiran B, Yang Berisi Panduan Penerapan Pengendalian AI, Disebutkan Lebih Lanjut Mengenai Langkah-Langkah Spesifik Terkait AI/ML. (Pengendalian Adalah Tindakan Yang Mempertahankan Dan/Atau Mengubah Risiko.) Secara Khusus, Dokumentasi Data Yang Digunakan Dalam Organisasi Diamanatkan Untuk Mencakup Kategori Yang Digunakan Untuk ML, Dan Proses Pelabelan Data Untuk Pelatihan Dan Pengujian.
Dalam Hal Menilai Dampak Sistem AI Terhadap Kelompok Dan Individu, Standar Tersebut Menyebutkan Beberapa Bidang Yang Dapat Dipercaya Seperti Keadilan, Transparansi, Penjelasan, Aksesibilitas, Dan Keamanan. Banyak Dampak Penting Lainnya Yang Disebutkan Seperti Dampak Terhadap Lingkungan, Potensi Kesalahan Informasi, Dan Kemungkinan Masalah Keselamatan Dan Kesehatan Yang Merugikan. Namun, Hal Ini Relevan Dengan Sistem Perangkat Lunak Secara Umum Dan Tidak Hanya Pada Sistem AI.
Pengendalian Yang Menarik Adalah Memberikan Justifikasi Bagi Pengembangan Sistem AI, Termasuk Penjelasan Kapan Dan Mengapa Sistem Akan Digunakan Dan Daftar Metrik Yang Harus Digunakan Untuk Mengukur Apakah Kinerja Sistem Sesuai Dengan Tujuan Tersebut. Pertanyaan Yang Timbul Dari Hal Ini Adalah Apakah Metrik Yang Diketahui Yang Digunakan Untuk Sistem Perangkat Lunak Cukup Untuk Sistem Yang Mengandung AI.
Selain Itu, Pilihan Desain Perlu Didokumentasikan, Termasuk Detail Metode ML. Dalam Hal Ini, Evaluasi Sistem AI Juga Penting Dan Akan Mencakup Langkah-Langkah Spesifik AI.
Meski Tidak Disebutkan Dalam Standar, Generalisasi Sangat Penting Untuk Sistem AI, Yaitu Bagaimana Model Statistik Yang Dibangun Dengan Metode ML Yang Digunakan Beradaptasi Dengan Data Baru Yang Sebelumnya Tidak Terlihat. Untuk Penerapan, Model Yang Dibangun Oleh Pembelajaran Mesin Mungkin Perlu Dilatih Ulang Secara Berkala, Atau Bahkan Terus Menerus. Oleh Karena Itu, Sistem AI Perlu Dipantau Secara Berkelanjutan Untuk Menilai Pengaruhnya Terhadap Kinerja Sistem.
Manajemen Data Dan AI Yang Bertanggung Jawab
Lampiran B Juga Membahas Proses Pengelolaan Data Yang Harus Dilaksanakan. Hal Ini Mencakup Panduan Khusus Untuk Sistem AI Yang Mencakup Transparansi, Kemampuan Menjelaskan, Dan Contoh Data Pelatihan. Hal Ini Juga Mencakup Panduan Untuk Persiapan Data, Yang Mencakup Eksplorasi Data Secara Statistik, Yang Merupakan Aktivitas Mendasar Dalam Ilmu Data. Penggunaan AI Secara Bertanggung Jawab Juga Dibahas, Tujuannya Adalah Agar Sistem AI Dapat Dipercaya Dalam Berbagai Dimensi Termasuk Keadilan, Akuntabilitas, Transparansi, Keandalan, Ketahanan, Keselamatan, Privasi, Keamanan, Dan Aksesibilitas.
Dimensi Kepercayaan Juga Berlaku Pada Subjek Lampiran C, Yang Membahas Tujuan Organisasi Dan Sumber Risiko Terkait AI.
Terakhir, Lampiran D Membahas Tentang Domain Dan Sektor Di Mana Sistem AI Dapat Digunakan. Masalah Yang Diatasi Adalah Integrasi Standar Sektoral Tertentu Dengan Standar AI Umum Ini. Lampiran D Juga Membahas Tentang Sertifikasi, Yang Mengacu Pada Pendekatan Penilaian Kesesuaian Pihak Ketiga Berdasarkan Standar Manajemen AI.
Secara Keseluruhan ISO/IEC 42001 Menawarkan Kepada Organisasi Panduan Untuk Tumpukan Teknis Yang Ada Serta Standar Dan Proses Yang Diperlukan Agar Penerapan AI Yang Dibangun Di Atasnya Agar Dapat Dipercaya, Dalam Berbagai Dimensinya, Beberapa Di Antaranya Telah Disebutkan Di Atas.
AI Yang Dapat Dipercaya Adalah Salah Satu Tema Utama Yang Kami Teliti Di NPL, Karena Hal Ini Sangat Penting Untuk Memastikan Bahwa Setiap Sistem Pengukuran Yang Mencakup Komponen AI Mematuhi Prinsip-Prinsip Dasar AI Yang Bertanggung Jawab. Dalam Postingan Blog Mendatang, Kita Akan Melihat Lebih Dekat Bagaimana ISO/IEC 42001 Dapat Berguna Bagi Organisasi Yang Ingin Memanfaatkan AI Dan Pembelajaran Mesin Dalam Operasi Mereka.
Informasi Pelatihan ISO/IEC 42001 disini.
