Media Trans – Bulan Fintech Nasional 2023 telah berakhir pada 12 Desember 2023, salah satu produk BFN 2023 adalah “Panduan Kode Etik Kecerdasan Buatan (Artificial Intelligence) yang Bertanggung Jawab dan Terpercaya di Industri Fintech“.
“Kode Etik Kecerdasan Buatan (Artificial Intelligence/AI) yang Bertanggung Jawab dan Terpercaya” ini, sebelumnya telah disosialisasikan pada Indonesia Fintech Summit & Expo 2023, tanggal 23 November 2023 silam.
Adapun proses penyusunan substansi pada Kode Etik ini dilakukan secara bersama-sama oleh OJK dan Asosiasi-Asosiasi di industri teknologi finansial.
Sebagai informasi, ketentuan-ketentuan dalam Kode Etik ini akan efektif berlaku bagi Anggota AFTECH setelah disetujui oleh Anggota AFTECH melalui mekanisme Rapat Umum Anggota AFTECH, sesuai dengan ketentuan Anggaran Dasar dan Anggaran Rumah Tangga AFTECH, demikian keterangan disampaikan ke redaksi.
Berikut ketentuan Panduan “Kode Etik Kecerdasan Buatan (Artificial Intelligence) yang Bertanggung Jawab dan Terpercaya di Industri Fintech”
A. LATAR BELAKANG
1. Artificial Intelligence (AI) atau kecerdasan buatan merupakan kombinasi dari ilmu komputer, teknologi machine learning dan big data yang dikembangkan untuk menemukan pola, melakukan prediksi, dan memberikan solusi atas suatu masalah.
2. Seluruh industri khususnya sektor financial technology yang memiliki data dalam jumlah besar (big data), telah memulai untuk melakukan transisi kepada proses bisnis yang berbasis data (data-driven) memanfaatkan Al dan Machine Learning.
Transisi ini tentunya akan meningkatkan efisiensi dalam pelaksanaan proses bisnis dan
kecepatan transaksi di sektor keuangan. Namun demikian, pemanfaatan Al akan memunculkan risiko baru yang mungkin belum pernah ditemukan sebelumnya
(unprecedented risk).
3. Dalam rangka mitigasi risiko dan mengoptimalkan Al di industri Fintech, diperlukan
kerangka perilaku (code of conduct) yang dapat menjadi panduan bagi Penyelenggara
Fintech dan pihak terkait untuk memastikan aplikasi berbasis Al yang dimanfaatkan telah memenuhi prinsip-prinsip : beneficial, fair and accountable, transparent dan explicable, and robustness dan security.
Prinsip dasar tersebut berdasarkan studi atas
beberapa panduan yang berlaku global diantaranya OECD Al Principle dan National
Institute of Standards and Technology Al Risk Management Framework.
B. Prinsip Dasar Pedoman Perilaku Kecerdasan Buatan yang Bertanggungjawab dan
Dapat Dipercaya (Responsible and Trustworthy Artificial Intelligence)
Dalam memanfaatkan Al, Penyelenggara Fintech sebagai salah satu pionir dalam
mengembangkan bisnis model berbasis Al berpedoman pada prinsip dasar yakni:
1. Berasaskan Pancasila
Penyelenggara Fintech mengawal pengembangan dan pemanfaatan Al dalam
operasional bisnisnya agar selaras dengan kepentingan nasional dan memiliki
tanggung jawab etika yang berlandaskan nilai-nilai Pancasila.
2. Bermanfaat (beneficial)
Dalam mengoptimalkan Al yang bermanfaat bagi manusia dan lingkungan, hal-hal
yang harus diperhatikan diantaranya:
-Penyelenggara Fintech mengupayakan pengembangan dan pemanfaatan aplikasi
berbasis Al dapat memberikan nilai tambah bagi operasional bisnis dan dapat memberikan meningkatkan kesejahteraan konsumen, meningkatkan kemampuan konsumen dalam mengambil keputusan, mengurangi ketidaksetaraan,
meningkatkan inklusi keuangan, serta mendukung ekonomi berkelanjutan.
– Penyelenggara Fintech mengupayakan pengembangan dan pemanfaatan aplikasi
berbasis Al dilakukan dengan mengacu kepada ketentuan yang berlaku, prinsip hak asasi manusia, keberagaman, dan perlindungan konsumen atau investor.
3. Wajar dan Akuntabel (fair and accountable)
Pemanfaatan aplikasi berbasis Al yang wajar dan akuntabel berkaitan dengan validitas dan akurasi yang mempertimbangkan prinsip keadilan dan non-diskriminatif, dengan memperhatikan:
• Penyelenggara Fintech memastikan bahwa bisnis model dan aplikasi berbasis Al yang dikembangkan dan dimanfaatkan tidak menyebabkan kerugian kepada
konsumen termasuk tidak melanggar privasi dan tidak menimbulkan diskriminasi
yang diakibatkan oleh ketidaktahuan konsumen terkait pemrosesan Al (blackbox).
• Penyelenggara Fintech memiliki kerangka mitigasi risiko untuk memastikan bahwa
algoritma, code, data input, dan seluruh instrumen pendukung aplikasi berbasis Al dapat memiliki kontribusi yang relevan dan proporsional dengan tujuan yang ingin dicapai dengan pemanfaatan aplikasi berbasis Al dimaksud.
• Penyelenggara Fintech memastikan bahwa data yang dipergunakan dapat
dipertanggungjawabkan, valid, merupakan data yang terkini, tidak mengandung bias, dan memenuhi ketentuan yang diatur dalam peraturan terkait perlindungan data pribadi khususnya ketentuan pemrosesan secara otomatis.
• Penyelenggara Fintech memastikan bahwa pemrosesan yang dilakukan oleh aplikasi berbasis Al dapat mendekati akurasi dengan standard yang tertinggi melalui serangkaian uji coba (testing) atas aplikasi dimaksud.
• Penyelenggara Fintech memastikan bahwa aplikasi berbasis Al yang dikembangkan sesuai dengan tujuan pemanfaatan pengembangan Al dimaksud, dimana penggunaannya harus sesuai dengan nilai, etika, dan ketentuan.
• Penyelenggara Fintech memiliki kerangka pertanggungjawaban atas output yang dihasilkan dari aplikasi berbasis Al untuk memberikan kepastian
pertanggungjawaban kepada konsumen apabila terjadi hal-hal yang merugikan.
4. Transparan dan Dapat Dijelaskan (transparent and explicable)
Penyelenggara Fintech dapat menjelaskan cara kerja pemrosesan Al kepada konsumen, mulai dari input sampai dengan output yang dihasilkan. Hal ini untuk meningkatkan transparansi pemrosesan aplikasi berbasis Al dan menentukan
pertanggungjawaban para pihak, dengan memperhatikan:
• Penyelenggara Fintech memiliki pengetahuan dan kendali atas cara kerja pemrosesan aplikasi berbasis Al dalam batas batas tertentu yang dapat
dipertanggungjawabkan (human-on-the loop).
Dalam rangka transparansi, penyelenggara fintech dapat menjelaskan cara kerja
pemrosesan Al dengan mengacu pada penjelasan pengembang/ pemilik/vendor Al dalam mencapai sebuah output, potensi risiko atau kerugian yang dapat dialami kosumen, serta langkah mitigasi yang telah dipersiapkan apabila terjadi kegagalan
dalam pemrosesan.
Penyelenggara fintech mengupayakan bahwa konsumen mendapatkan
penjelasan yang mudah dipahami terkait pemrosesan oleh aplikasi berbasis Al
dengan dapat mengacu pada penjelasan dari pengembang/ pemilik/vendor sistem Al sehingga konsumen memiliki pemahaman alas output yang dihasilkan oleh aplikasi berbasis Al dan dapat melakukan tindakan atas output dimaksud.
Terkait dengan transparansi, penyelenggara fintech menerapkan kerangka
manajemen risiko yang mencakup mekanisme yang dapat ilakukan
penyelenggara apabila terdapat output yang tidak akurat, level of responsibility berdasarkan pedoman yang ditetapkan oleh masing-masing penyelenggara, dan recovery mechanisms yang dilakukan apabila terjadi kesalahan pemrosesan.
5. Ketangguhan dan Keamanan (robustness and security)
Penyelenggara fintech memastikan ketangguhan dan keamanan aplikasi berbasis Al
yang dimanfaatkan, diantaranya dengan memperhatikan:
• Penyelenggara fintech memastikan bahwa aplikasi berbasis Al yang dimanfaatkan
adalah aplikasi yang robust berdasarkan parameter yang ditetapkan masing-masing penyelenggara sesuai dengan tujuan penggunaan dan bisnis modelnya.
• Penyelenggara fintech memastikan bahwa aplikasi berbasis Al yang dipergunakan
tidak rentan terhadap serangan siber dan memiliki mekanisme recovery apabila terjadi serangan siber.
• Penyelenggara fintech memastikan bahwa aplikasi berbasis Al yang dipergunakan
merupakan hasil pengembangan perusahaan atau expert yang memiliki kemampuan atau bersertifikasi di bidang Al.
• Penyelenggara fintech mengupayakan bahwa aplikasi berbasis Al yang dipergunakan telah melalui serangkaian proses pengujian dan pembelajaran yang berkelanjutan untuk menguji ketangguhannya.
• Penyelenggara fintech mengupayakan bahwa aplikasi berbasis Al yang dipergunakan telah melalui serangkaian pengujian dan validasi yang menyeluruh secara teratur dan berkala dalam bentuk testing baik dari sisi teknis pemrosesan
atau sisi keamanannya, sehingga dapat meminimalisir kesalahan atau ketidakkonsistenan.
• Penyelenggara fintech memiliki standar yang menunjukan tingkat validitas yang
dapal diukur dan dapat diuji, sehingga dapat dipertanggungjawabkan kepada
konsumen sebagaimana ketentuan yang berlaku.
C. Faktor-Faktor Pendukung Responsible and Trustworthy Al
Beberapa faktor yang mendukung perkembangan Responsible and Trustworthy Al
Be the first to comment