BEBERAPA PERTANYAAN KRITIS
• Bagaimana ChatGPT, sebagai AI yang dibuat oleh manusia, dapat memastikan akurasi dan keabsahan informasi keagamaan yang diberikan, mengingat keagamaan adalah bidang yang sangat sensitif dan membutuhkan pemahaman yang mendalam serta referensi yang otentik?
• Apakah keberadaan ChatGPT dapat menyebabkan penurunan peran otoritas keagamaan dalam menyampaikan informasi dan pengetahuan keagamaan kepada umat, mengingat AI bisa lebih mudah diakses dan responnya lebih cepat dibandingkan dengan otoritas keagamaan?
• Dalam konteks keagamaan yang memiliki berbagai mazhab dan pendapat, bagaimana ChatGPT dapat memastikan bahwa informasi yang diberikan sesuai dengan mazhab atau pandangan yang diinginkan oleh pengguna, mengingat AI tidak memiliki afiliasi keagamaan atau pemikiran tertentu?
• Bagaimana ChatGPT dapat menangani perbedaan pendapat dan interpretasi dalam keagamaan tanpa menyinggung perasaan pengguna atau menyebabkan konflik dan perpecahan, mengingat AI tidak memiliki empati dan kebijaksanaan seperti manusia?
• Sejauh mana tanggung jawab dan peran otoritas keagamaan dalam mengawasi dan mengontrol penggunaan ChatGPT dalam konteks keagamaan, mengingat AI mungkin memiliki batasan dan kesalahan dalam memberikan informasi yang benar dan tepat?
ANALISIS TRENDING TOPIC HARIAN INDONESIA DAN CAPRES 02
CHATGPT DAN TANTANGAN BAGI OTORITAS KEAGAMAAN
1. CHATGPT DAN TANTANGAN BAGI
OTORITAS
KEAGAMAAN
Ismail Fahmi, Ph.D.
Director Media Kernels Indonesia (Drone Emprit)
Lecturer at the University of Islam Indonesia
Ismail.fahmi@gmail.com
NGABUBURIT AIDI
29 Maret 2023
2. 2
1992 – 1997 S1, Teknik Elektro, ITB
2003 – 2004 S2, Information Science, Universitas Groningen, Belanda
2004 – 2009 S3, Information Science, Universitas Groningen, Belanda
2000 – 2003 Inisiator IndonesiaDLN (Digital Library Network pertama di Indonesia)
Mengembangkan Ganesha Digital Library (GDL)
Mendirikan Knowledge Management Research Group (KMRG) ITB
Membangun Digital Library ITB
2009 – Sekarang Engineer di Weborama, Perusahaan berbasis big data (Paris/Amsterdam)
2014 – Sekarang Founder PT. Media Kernels Indonesia, a Drone Emprit Company
2015 – Sekarang Konsultan Perpustakaan Nasional, Inisiator Indonesia OneSearch
2017 – Sekarang Dosen Tetap Magister Teknik Informatika Universitas Islam Indonesia
2021 – 2022 Anggota, Majelis Dikdasmen PP Muhammadiyah
2023 – Sekarang Majelis Pustaka, Informasi, dan Digital PP Muhammadiyah
Ismail Fahmi, Ph.D.
Ismail.fahmi@gmail.com
Lahir: Bojonegoro, 1974
Founder Media Kernels Indonesia
3. BEBERAPA PERTANYAAN KRITIS
• Bagaimana ChatGPT, sebagai AI yang dibuat oleh manusia, dapat memastikan akurasi dan
keabsahan informasi keagamaan yang diberikan, mengingat keagamaan adalah bidang
yang sangat sensitif dan membutuhkan pemahaman yang mendalam serta referensi yang
otentik?
• Apakah keberadaan ChatGPT dapat menyebabkan penurunan peran otoritas keagamaan
dalam menyampaikan informasi dan pengetahuan keagamaan kepada umat, mengingat
AI bisa lebih mudah diakses dan responnya lebih cepat dibandingkan dengan otoritas
keagamaan?
• Dalam konteks keagamaan yang memiliki berbagai mazhab dan pendapat, bagaimana
ChatGPT dapat memastikan bahwa informasi yang diberikan sesuai dengan mazhab atau
pandangan yang diinginkan oleh pengguna, mengingat AI tidak memiliki afiliasi
keagamaan atau pemikiran tertentu?
• Bagaimana ChatGPT dapat menangani perbedaan pendapat dan interpretasi dalam
keagamaan tanpa menyinggung perasaan pengguna atau menyebabkan konflik dan
perpecahan, mengingat AI tidak memiliki empati dan kebijaksanaan seperti manusia?
• Sejauh mana tanggung jawab dan peran otoritas keagamaan dalam mengawasi dan
mengontrol penggunaan ChatGPT dalam konteks keagamaan, mengingat AI mungkin
memiliki batasan dan kesalahan dalam memberikan informasi yang benar dan tepat?
3
5. PENDEKATAN PENGEMBANGAN AI
• Machine Learning: teknik yang
memungkinkan mesin untuk belajar dari
data dan meningkatkan performa mereka
seiring dengan pengalaman.
• Deep Learning: metode machine learning
yang menggunakan jaringan neural yang
dalam untuk melakukan tugas-tugas
seperti pengenalan suara atau gambar.
• Natural Language Processing: teknologi
yang memungkinkan mesin untuk
memahami dan menghasilkan bahasa
manusia.
• Robotics: teknologi yang menggabungkan
kecerdasan buatan dengan robot untuk
melakukan tugas-tugas yang kompleks.
5
6. HARARI: POTENSI DAN RESIKO AI
Harari melihat
potensi besar AI
untuk meningkatkan
kemampuan
manusia, tetapi juga
memperingatkan
risiko pengangguran
massal dan
kesenjangan sosial
ekonomi karena
mengurangi peran
manusia di tempat
kerja.
6
7. ELON MUSK: AI MUSUH TERBESAR MANUSIA
Musk memandang AI sebagai
ancaman besar jika tidak diatur
dengan bijaksana. Kemampuan
AI untuk belajar dengan cepat
dapat menyebabkan konsekuensi
yang tidak diinginkan. Musk
menggambarkan AI sebagai
"penguasa dewa" atau bahkan
"musuh terbesar manusia".
7
8. ELON MUSK: PERLU BADAN PENGATUR GLOBAL
Musk mendukung pengaturan yang
bijaksana terhadap pengembangan AI
dan membatasi risiko potensial.
Ia menyerukan pembentukan badan
pengatur global untuk mengatur
pengembangan AI.
Musk juga menawarkan hadiah besar
untuk pengembang AI yang dapat
membangun sistem yang aman dan
bertanggung jawab.
8
9. HARARI: PERLU MENGATUR TEKNOLOGI AI
Harari percaya bahwa
manusia dapat
mengelola
pengembangan AI
dengan bijaksana,
asalkan ada kesadaran
dan upaya untuk
mengatur
penggunaan dan
pengembangan
teknologi ini.
9
12. SUMBER TEKS UNTUK MELATIH CHATGPT
• Buku: Model ChatGPT menggunakan teks dari berbagai buku, seperti
buku fiksi, non-fiksi, dan referensi akademik.
• Artikel Berita: Model ini juga menggunakan teks dari berbagai artikel
berita, baik yang bersifat aktual maupun lama.
• Situs Web: ChatGPT menggunakan teks dari berbagai situs web, seperti
blog, ensiklopedia, forum, dan situs web berita.
• Publikasi Ilmiah: Model ini juga menggunakan teks dari publikasi ilmiah,
seperti jurnal, makalah konferensi, dan tesis.
• Perbincangan Online: ChatGPT menggunakan teks dari percakapan online
di forum, media sosial, aplikasi pesan, dan platform lainnya.
12
14. IT’S JUST ADDING ONE WORD AT A TIME
• The remarkable thing is that when
ChatGPT does something like write an
essay what it’s essentially doing is just
asking over and over again “given
the text so far, what should the next
word be?”—and each time adding a
word.
• More precisely, it’s adding a “token”,
which could be just a part of a word,
which is why it can sometimes “make
up new words”.
• https://writings.stephenwolfram.com/
2023/02/what-is-chatgpt-doing-and-
why-does-it-work/
14
15. KETERBATASAN CHATGPT
• ChatGPT merupakan model yang besar dan kompleks, sehingga
memerlukan sumber daya yang besar untuk dijalankan. Hal ini dapat
membuatnya sulit untuk digunakan dalam aplikasi real-time, seperti
chatbot, di mana dibutuhkan respons yang cepat.
• ChatGPT merupakan model generatif, yang berarti bahwa tidak selalu
mampu memberikan jawaban yang akurat untuk pertanyaan tertentu.
Dalam beberapa kasus, jawaban yang dihasilkan bisa tidak relevan atau
tidak masuk akal, sehingga sulit untuk digunakan dalam beberapa aplikasi.
• ChatGPT, seperti semua model pemrosesan bahasa alami, terbatas oleh
kualitas dan kuantitas data yang digunakan dalam pelatihannya. Jika
model ini tidak dilatih dengan dataset yang beragam dan representatif, ia
mungkin tidak mampu memberikan jawaban yang akurat untuk input yang
berada di luar data pelatihannya.
15
26. LESSON LEARNED
• ChatGPT bisa menjawab secara singkat maupun mendalam tergantung
dari pertanyaan kita.
• ChatGPT bisa memperlihatkan sebuah hadist statusnya lemah dan
menunjukkan referensinya. Namun referensi yang ditampilkan perlu
dicrosscheck, karena saat ini ChatGPT masih belum bagus dalam hal
referensi.
• ChatGPT perlu didampingi oleh tool lain seperti Google, untuk keperluan
validasi jawaban dan pencarian referensi.
• Insight dari Google bisa menjadi bahan untuk feedback dan pertanyaan
lebih dalam ke ChatGPT untuk konteks tanya jawab yang sedang
berlangsung.
26
50. PERAN OTORITAS KEAGAMAAN DI ERA
CHATGPT
• Edukasi: Mengedukasi umat tentang potensi batasan dan kesalahan AI dalam menyampaikan
informasi keagamaan yang akurat dan relevan. Mereka harus menjelaskan bahwa meskipun AI
seperti ChatGPT memiliki pengetahuan luas, mereka mungkin tidak selalu memiliki pemahaman
yang mendalam tentang ajaran agama, dan mungkin tidak selalu mengikuti pandangan atau
interpretasi yang dianut oleh suatu komunitas keagamaan.
• Pengawasan: Melakukan pengawasan dan evaluasi terhadap informasi keagamaan yang
disampaikan oleh AI seperti ChatGPT untuk memastikan bahwa informasi tersebut akurat,
relevan, dan sesuai dengan ajaran agama yang dianut oleh komunitas tersebut.
• Pelaporan: Membantu pengguna dalam melaporkan kesalahan atau informasi yang tidak akurat
yang diberikan oleh AI dalam konteks keagamaan, serta bekerja sama dengan pengembang AI
untuk memperbaiki kesalahan dan meningkatkan keakuratan informasi yang disampaikan.
• Keterlibatan: Berpartisipasi dalam pengembangan dan penyempurnaan AI seperti ChatGPT
dengan memberikan masukan dan saran yang berkaitan dengan konten keagamaan, sehingga
AI dapat lebih baik dalam memahami dan menyampaikan informasi yang benar dan tepat.
• Promosi: Mendorong penggunaan sumber informasi keagamaan yang otoritatif dan terpercaya,
seperti kitab-kitab, ulama, dan lembaga keagamaan yang diakui, sebagai alternatif atau
pelengkap dalam mencari informasi keagamaan selain menggunakan AI.
50
51. KERJASAMA OTORITAS KEAGAMAAN DENGAN
OPENAI
• Kolaborasi dalam pengembangan: Otoritas keagamaan bisa bekerja sama dengan tim
OpenAI untuk menyediakan masukan dan sumber referensi yang akurat dan relevan
tentang ajaran Islam, sehingga AI dapat dilatih dengan pengetahuan yang lebih baik
tentang ajaran dan praktik keagamaan.
• Konsultasi dan dukungan ahli: Muhammadiyah dan NU dapat menyediakan ahli dan
ulama yang bisa memberikan dukungan dan konsultasi kepada OpenAI dalam memahami
dan menyampaikan informasi keagamaan yang benar dan tepat.
• Validasi dan evaluasi: Otoritas keagamaan dapat membantu OpenAI dalam melakukan
validasi dan evaluasi terhadap informasi keagamaan yang disampaikan oleh AI, serta
memberikan umpan balik untuk perbaikan dan penyempurnaan sistem.
• Pelatihan dan penelitian: OpenAI dan otoritas keagamaan dapat bekerja sama dalam
melakukan pelatihan dan penelitian tentang cara terbaik untuk menyampaikan informasi
keagamaan melalui AI serta mengatasi tantangan dan masalah etika yang mungkin timbul
dalam penggunaan AI dalam konteks keagamaan.
• Penyuluhan dan edukasi: Otoritas keagamaan dan OpenAI dapat bekerja sama dalam
menyediakan materi edukasi dan penyuluhan yang membantu masyarakat memahami
cara terbaik untuk menggunakan AI dalam mencari informasi keagamaan dan memahami
batasan serta potensi kesalahan yang mungkin terjadi.
51
52. OTORITAS KEAGAMAAN MENYEDIAKAN AKSES
SUMBER KEISLAMAN
• Otoritas keagamaan dapat memberikan akses ke teks-teks keagamaan
klasik dan kontemporer, termasuk kitab-kitab tafsir, hadits, fiqh, dan karya-
karya ulama terkemuka.
• Hal ini akan membantu OpenAI untuk melatih AI dengan data yang lebih
akurat dan relevan tentang ajaran dan praktik keagamaan dalam Islam.
52
54. KESIMPULAN
• ChatGPT mampu memberi jawaban yang to the point, berdasarkan informasi
dari sumber yang sudah dilatihkan kepadanya. Namun harus hati-hati karena
sifat “generative”-nya bisa menghasilkan jawaban “halusinatif”.
• Untuk informasi keislaman, sebagian sumber sudah diindex dan dijadikan
training data untuk ChatGPT. Ketika informasinya cukup lengkap, maka
ChatGPT bisa memberi jawaban yang lebih tepat.
• Tantangannya adalah ketika untuk topik-topik yang lebih spesifik, lebih dalam,
lebih detail, namun ChatGPT belum ditraining dengan sumber informasi yang
mendukung, maka jawabannya bisa bias dan salah.
• Tren penggunaan AI untuk berbagai task dan kebutuhan pengguna semakin
meningkat, dan tidak menutup kemungkinan kebutuhan untuk mencari
informasi keagamaan.
• Otoritas keagamaan perlu proaktif dalam mengantisipasi semakin banyaknya
umat yang menggunakan AI untuk mencari inforamasi keagamaan. Salah satu
bentuknya adalah kerjasama dengan OpenAI untuk meningkatkan akurasi dan
relevansi.
54