Pandhuan ISC nawakake kerangka komprehensif sing dirancang kanggo nyepetake jurang antarane prinsip tingkat dhuwur lan kabijakan sing praktis lan bisa ditindakake. Iki nanggapi kabutuhan penting kanggo pangerten umum babagan kesempatan lan risiko sing diwenehake dening teknologi sing berkembang. Iki minangka dokumen penting kanggo wong-wong sing kerja ing hubungan kabijakan ing jaman digital sing saya ganti kanthi cepet.
Kerangka kasebut nylidiki potensial AI lan turunane liwat lensa sing komprehensif, nyakup kesejahteraan manungsa lan sosial bebarengan karo faktor eksternal kayata ekonomi, politik, lingkungan, lan keamanan. Sawetara aspek daftar priksa bisa uga luwih relevan tinimbang liyane, gumantung saka konteks, nanging keputusan sing luwih apik katon luwih mungkin yen kabeh domain dianggep, sanajan sawetara bisa diidentifikasi kanthi cepet minangka ora relevan ing kasus tartamtu. Iki minangka nilai inheren saka pendekatan checklist.
"Ing jaman sing ditandhani dening inovasi teknologi sing cepet lan tantangan global sing rumit, kerangka ISC kanggo analisis komprehensif lan multidimensi babagan dampak potensial menehi kekuwatan kanggo para pimpinan supaya bisa nggawe keputusan sing tanggung jawab. Iki njamin yen kita maju kanthi teknologi, kita nindakake kanthi ati-ati babagan implikasi etika, sosial, lan ekonomi".
Peter Gluckman, Presiden ISC
Nalika prinsip-prinsip tingkat dhuwur wis diumumake dening UNESCO, OECD, Komisi Eropa lan PBB, antara liya, lan macem-macem diskusi terus babagan masalah pamrentahan potensial, regulasi, etika lan safety, ana jurang gedhe antarane prinsip kasebut lan a tata kelola utawa kerangka regulasi. ISC ngrampungake kabutuhan kasebut liwat pandhuan anyar kanggo para pembuat kebijakan.
Pandhuan kanggo pembuat kabijakan iki ora dimaksudake kanggo nglarang rezim regulasi, nanging kanggo menehi saran kerangka analitis sing adaptif lan berkembang sing bisa ndhukung pambiji lan proses regulasi sing bisa dikembangake dening para pemangku kepentingan, kalebu pemerintah lan sistem multilateral.
"Kerangka kerja kasebut minangka langkah kritis ing obrolan global babagan AI amarga menehi dhasar kanggo nggawe konsensus babagan implikasi teknologi kanggo saiki lan ing mangsa ngarep".
Hema Sridhar, Mantan Kepala Penasihat Ilmu, Kementerian Pertahanan, Selandia Baru lan saiki Riset Senior Fellow, Universitas Auckland, Selandia Anyar.
Wiwit Oktober 2023, ana sawetara inisiatif nasional lan multilateral sing penting kanthi pertimbangan luwih lanjut babagan etika lan safety AI. Implikasi AI babagan integritas sawetara sistem kritis kita, kalebu finansial, pamrentah, hukum lan pendidikan, uga sistem kawruh sing beda (kalebu kawruh ilmiah lan pribumi), saya tambah prihatin. Framework luwih nggambarake aspek kasebut.
Umpan balik sing ditampa saka Anggota ISC lan komunitas pembuat kebijakan internasional nganti saiki dibayangke ing versi revisi kerangka analitik, sing saiki dirilis minangka pandhuan kanggo pembuat kebijakan.
Pandhuan kanggo pembuat kebijakan: Ngevaluasi teknologi sing berkembang kanthi cepet kalebu AI, model basa gedhe lan liya-liyane
Makalah diskusi iki nyedhiyakake kerangka kerangka awal kanggo ngandhani macem-macem diskusi global lan nasional sing ana gandhengane karo AI.
Ngundhuh kerangka kanggo digunakake ing organisasi sampeyan
Ing kene kita nyedhiyakake alat kerangka minangka lembar Excel sing bisa diowahi kanggo digunakake ing organisasi sampeyan. Yen luwih seneng format open source, hubungi [email dilindhungi].
Pambuka
Teknologi sing berkembang kanthi cepet nyedhiyakake masalah sing tantangan babagan panggunaan, pamrentahan lan regulasi potensial. Kabijakan lan debat umum babagan intelijen buatan (AI) lan panggunaane nyebabake masalah kasebut dadi fokus akut. Prinsip-prinsip umum kanggo AI wis diumumake dening UNESCO, OECD, PBB lan liya-liyane, kalebu Deklarasi Bletchley Inggris, lan ana upaya yurisdiksi sing muncul kanggo ngatur aspek teknologi liwat, contone, Uni Eropa (EU) AI Undhang-undhang utawa Orde Eksekutif AI Amerika Serikat sing anyar.
Nalika panggunaan AI wis dibahas kanthi dawa ing forum iki lan liyane, ing antarane bagean geopolitik lan ing negara ing kabeh tingkat penghasilan, tetep ana kesenjangan ontologis antarane pangembangan prinsip tingkat dhuwur lan digabungake ing praktik liwat peraturan, kebijakan, pemerintahan. utawa pendekatan stewardship. Path saka prinsip kanggo laku kurang ditetepake, nanging diwenehi alam lan irama pangembangan AI lan aplikasi, macem-macem kapentingan lan sawetara aplikasi bisa, sembarang pendekatan ora bisa kebacut generik utawa preskriptif.
Amarga alasan kasebut, komunitas ilmiah non-pemerintah terus nduweni peran tartamtu. Dewan Ilmu Internasional (ISC) - kanthi keanggotaan pluralistik saka ilmu sosial lan alam - ngrilis kertas diskusi ing Oktober 2023 sing nampilake kerangka analitik awal sing nimbang risiko, keuntungan, ancaman lan kesempatan sing ana gandhengane karo teknologi digital sing obah kanthi cepet. Nalika dikembangake kanggo nimbang AI, iku sipate teknologi agnostik lan bisa ditrapake kanggo macem-macem teknologi sing muncul lan ngganggu, kayata biologi sintetik lan kuantum. Makalah diskusi kasebut ngundang umpan balik saka akademisi lan pembuat kebijakan. Umpan balik sing akeh banget nggawe analisis kasebut perlu lan dadi pendekatan sing penting kanggo ngatasi teknologi sing berkembang kaya AI.
Tujuan kerangka kasebut yaiku kanggo nyedhiyakake alat kanggo menehi informasi marang kabeh pemangku kepentingan - kalebu pamrentah, negosiator perdagangan, regulator, masyarakat sipil lan industri - babagan evolusi teknologi kasebut kanggo mbantu dheweke nemtokake cara nimbang implikasi, positif utawa negatif, saka teknologi dhewe, lan luwih khusus aplikasi tartamtu. Kerangka analitis iki wis dikembangake kanthi bebas saka kapentingan pemerintah lan industri. Maksimal pluralistik ing perspektif, nyakup kabeh aspek teknologi lan implikasi adhedhasar konsultasi lan umpan balik sing ekstensif.
Makalah diskusi kanggo pembuat kabijakan iki ora dimaksudake kanggo nglarang rezim regulasi, nanging kanggo menehi saran kerangka analitis sing adaptif lan berkembang sing bisa ndhukung proses pambiji lan regulasi sing bisa dikembangake dening para pemangku kepentingan, kalebu pemerintah lan sistem multilateral.
Minangka pembuat keputusan ing saindenging jagad lan nasional nimbang setelan lan pengungkit kabijakan sing cocog kanggo ngimbangi risiko lan ganjaran saka teknologi anyar kayata AI, kerangka analitik dimaksudake minangka alat pelengkap kanggo mesthekake yen kabeh implikasi potensial bisa digambarake kanthi cukup.
Latar mburi: kenapa kerangka analitik?
Muncule teknologi kanthi cepet kanthi kerumitan lan implikasi AI nyebabake akeh klaim sing entuk manfaat gedhe. Nanging, uga nyebabake rasa wedi babagan risiko sing signifikan, saka tingkat individu nganti geostrategis.1 Akeh diskusi nganti saiki wis dianggep ing pangertèn binar minangka views publicly ditulis cenderung kanggo njupuk Panggonan ing ends nemen saka spektrum. Klaim sing digawe kanggo utawa nglawan AI asring hiperbolik lan - amarga sifat teknologi kasebut - angel ditaksir.
Pendekatan sing luwih pragmatis perlu ing ngendi hiperbola diganti karo evaluasi sing dikalibrasi lan luwih granular. Teknologi AI bakal terus berkembang, lan sejarah nuduhake manawa meh kabeh teknologi duwe panggunaan sing migunani lan mbebayani. Pitakonan, mulane: kepiye carane bisa entuk asil sing migunani saka teknologi iki, nalika nyuda risiko akibat sing mbebayani, sawetara sing bisa dadi eksistensial?
Masa depan mesthi ora mesthi, nanging ana swara sing bisa dipercaya lan pakar babagan AI lan AI generatif kanggo nyengkuyung pendekatan sing relatif ati-ati. Kajaba iku, pendekatan sistem perlu amarga AI minangka kelas teknologi kanthi panggunaan lan aplikasi sing akeh dening macem-macem jinis pangguna. Iki tegese konteks lengkap kudu dipikirake nalika nimbang implikasi saka panggunaan AI kanggo individu, urip sosial, urip sipil, urip masyarakat lan ing konteks global.
Ora kaya umume teknologi liyane, kanggo teknologi digital lan sing gegandhengan, wektu antarane pangembangan, rilis lan aplikasi arang banget cendhak, umume didorong dening kapentingan perusahaan utawa agensi produksi. Miturut sifate - lan adhedhasar backbone digital - AI bakal duwe aplikasi sing nyebar kanthi cepet, kaya sing wis katon karo pangembangan model basa gedhe. Akibaté, sawetara sifat mung bisa katon sawise diluncurake, tegese ana risiko akibat sing ora dikarepake, sing jahat lan apik.
Dimensi nilai-nilai sosial sing penting, utamane ing wilayah lan budaya sing beda-beda, bakal mengaruhi kepiye panggunaan lan ditampa. Salajengipun, kapentingan geostrategis wis ndominasi diskusi, kanthi kapentingan kedaulatan lan multilateral terus-terusan intersect lan kanthi mangkono nyebabake kompetisi lan divisi.
Nganti saiki, akeh regulasi teknologi virtual umume katon liwat lensa 'prinsip' lan kepatuhan sukarela, sanajan karo Undhang-undhang AI EU.2 lan padha, kita ndeleng owah-owahan menyang peraturan sing luwih bisa ditindakake nanging rada sempit. Nggawe tata kelola lan/utawa sistem regulasi teknologi global utawa nasional sing efektif tetep dadi tantangan lan ora ana solusi sing jelas. Sawetara lapisan nggawe keputusan sing ana risiko bakal dibutuhake ing sadawane rantai, saka penemu nganti produser, pangguna, pemerintah lan sistem multilateral.
Nalika prinsip-prinsip tingkat dhuwur wis diumumake dening UNESCO, OECD, Komisi Eropa lan PBB, lan liya-liyane, lan macem-macem diskusi tingkat dhuwur terus babagan masalah pamrentahan, regulasi, etika lan safety sing potensial, ana longkangan gedhe antarane kuwi. prinsip lan tata kelola utawa kerangka regulasi. Iki kudu ditanggulangi.
Minangka titik wiwitan, ISC nganggep ngembangake taksonomi pertimbangan sing bisa dirujuk dening pangembang, regulator, penasehat kebijakan, konsumen utawa pembuat keputusan. Amarga implikasi sing akeh saka teknologi kasebut, taksonomi kasebut kudu nimbang totalitas implikasi tinimbang framing sing fokus. Fragmentasi global saya tambah amarga pengaruh kapentingan geostrategis ing nggawe keputusan, lan amarga teknologi iki penting banget, penting kanggo swara independen lan netral kanggo terus-terusan juara pendekatan terpadu lan inklusif.
1) Hindustan Times. 2023. G20 kudu nyiyapake panel internasional babagan owah-owahan teknologi.
https://www.hindustantimes.com/opinion/g20-must-set-up-an-international-panel-on-technological-change-101679237287848.html
2) Undhang-undhang Kecerdasan Buatan EU. 2023. https://artificialintelligenceact.eu
Pangembangan kerangka analitik
ISC minangka organisasi non-pemerintah global utama sing nggabungake ilmu alam lan sosial. Jangkoan global lan disiplin tegese iku uga diselehake kanggo generate saran sawijining lan global cocog kanggo ngandhani pilihan Komplek ahead, utamané minangka voices saiki ing arene iki umume saka industri utawa saka kawicaksanan lan komunitas politik saka kakuwasan teknologi utama.
Sawise sawetara diskusi ekstensif, sing kalebu pertimbangan proses penilaian non-pemerintah, ISC nyimpulake yen kontribusi sing paling migunani yaiku ngasilake kerangka analitik adaptif sing bisa digunakake minangka basis kanggo wacana lan pengambilan keputusan dening kabeh. pemangku kepentingan, kalebu sajrone proses pambiji formal sing muncul.
Kerangka analisis awal, sing dirilis kanggo diskusi lan umpan balik ing Oktober 2023, dadi dhaptar priksa sing dirancang kanggo digunakake dening lembaga pemerintah lan non-pemerintah. Kerangka kasebut ngenali lan njelajah potensial teknologi kayata AI lan turunane liwat lensa amba sing nyakup kesejahteraan manungsa lan masyarakat, uga faktor eksternal kayata ekonomi, politik, lingkungan lan keamanan. Sawetara aspek daftar priksa bisa uga luwih relevan tinimbang liyane, gumantung saka konteks, nanging keputusan sing luwih apik katon luwih mungkin yen kabeh domain dianggep, sanajan sawetara bisa diidentifikasi kanthi cepet minangka ora relevan ing kasus tartamtu. Iki minangka nilai inheren saka pendekatan checklist.
Kerangka awal kasebut asale saka karya lan pamikiran sadurunge, kalebu laporan International Network for Governmental Science Advice (INGSA) babagan kesejahteraan digital3 lan Kerangka OECD kanggo Klasifikasi Sistem AI,4 kanggo nampilake totalitas kesempatan, risiko lan dampak potensial. saka AI. Produk sadurunge iki luwih diwatesi ing maksud sing diwenehi wektu lan konteks; ana perlu kanggo framework overarching sing presents sawetara lengkap saka masalah loro ing short lan maneh.
Wiwit diluncurake, kertas diskusi kasebut entuk dhukungan saka akeh ahli lan pembuat kebijakan. Akeh sing khusus nyetujoni rekomendasi kanggo ngembangake kerangka adaptif sing ngidini pertimbangan sing disengaja lan proaktif babagan risiko lan implikasi teknologi kasebut, lan kanthi mangkono, tansah nganggep totalitas dimensi saka individu menyang masyarakat lan sistem.
Salah sawijining pengamatan utama sing ditindakake liwat umpan balik yaiku ngakoni manawa sawetara implikasi sing dianggep ing kerangka kasebut pancen macem-macem lan nyebar ing pirang-pirang kategori. Contone, disinformasi bisa dianggep saka lensa individu lan geostrategis; mangkono, jalaran bakal sudhut kiro-kiro.
Opsi kanggo nyakup studi kasus utawa conto kanggo nguji kerangka uga disaranake. Iki bisa digunakake kanggo ngembangake pedoman kanggo nduduhake carane bisa digunakake ing praktik ing konteks sing beda. Nanging, iki bakal dadi tugas sing penting lan bisa mbatesi kepiye klompok beda-beda nggunakake kerangka kerja iki. Iki paling apik ditindakake dening pembuat kebijakan sing nggarap pakar ing yurisdiksi utawa konteks tartamtu.
Wiwit Oktober 2023, ana sawetara inisiatif nasional lan multilateral sing penting kanthi pertimbangan luwih lanjut babagan etika lan safety AI. Implikasi AI babagan integritas sawetara sistem kritis kita, kalebu finansial, pamrentah, hukum lan pendidikan, uga sistem kawruh sing beda (kalebu kawruh ilmiah lan pribumi), saya tambah prihatin. Kerangka revisi luwih nggambarake aspek kasebut.
Umpan balik sing ditampa nganti saiki dibayangke ing versi revisi kerangka analisis, sing saiki dirilis minangka pandhuan kanggo para pembuat kebijakan.
Nalika kerangka kasebut ditampilake ing konteks AI lan teknologi sing gegandhengan, bisa langsung ditransfer menyang pertimbangan teknologi liyane sing berkembang kanthi cepet kayata biologi kuantum lan sintetik.
3) Gluckman, P. and Allen, K. 2018. Understanding wellbeing in the context of rapid digital and associated transformations. INGSA.
https://ingsa.org/wp-content/uploads/2023/01/INGSA-Digital-Wellbeing-Sept18.pdf
4) OECD. 2022. Framework OECD kanggo Klasifikasi sistem AI. Makalah Ekonomi Digital OECD, No. 323,#. Paris, OECD Publishing.
https://oecd.ai/en/classificatio
Kerangka Kerja
Tabel ing ngisor iki nampilake dimensi kerangka analitik putative. Conto diwenehake kanggo nggambarake sebabe saben domain bisa uga penting; ing konteks, framework bakal mbutuhake expansion kontekstual cocog. Sampeyan uga penting kanggo mbedakake antarane masalah umum sing muncul sajrone pangembangan platform lan sing bisa kedadeyan sajrone aplikasi tartamtu. Ora ana pertimbangan siji-sijine sing kalebu ing kene sing kudu dianggep minangka prioritas lan, mula, kabeh kudu ditliti.
Masalah-masalah kasebut diklompokake sacara umum ing kategori ing ngisor iki kaya sing dijelasake ing ngisor iki:
Tabel rincian dimensi sing bisa uga kudu dianggep nalika ngevaluasi teknologi anyar.
– INGSA. 2018. Pangerten babagan kesejahteraan ing konteks digital sing cepet lan transformasi sing ana gandhengane.
https://ingsa.org/wp-content/uploads/2023/01/INGSA-Digital-Wellbeing-Sept18.pdf
– Deskriptor anyar (dijupuk liwat konsultasi ekstensif lan umpan balik sarta tinjauan literatur)
– Kerangka OECD kanggo Klasifikasi Sistem AI: alat kanggo kabijakan AI sing efektif.
https://oecd.ai/en/classification
| Kriteria | Conto carane iki bisa dibayangke ing analisis |
| Kompetensi AI pangguna | Sepira kompeten lan ngerti babagan properti sistem minangka pangguna sing bakal sesambungan karo sistem kasebut? Kepiye carane bakal diwenehi informasi pangguna sing relevan lan ati-ati? |
| Para pemangku kepentingan sing kena pengaruh | Sapa sing dadi pemangku kepentingan utama sing bakal kena pengaruh sistem kasebut (individu, komunitas, rentan, buruh sektoral, bocah-bocah, pembuat kebijakan, profesional, lsp.)? |
| Opsionalitas | Apa pangguna diwenehi kesempatan kanggo milih metu saka sistem utawa diwenehi kesempatan kanggo tantangan utawa mbenerake output? |
| Resiko kanggo hak asasi manungsa lan nilai demokratis | Apa sistem kasebut nduwe pengaruh dhasar marang hak asasi manungsa, kalebu nanging ora winates ing privasi, kebebasan ekspresi, keadilan, non-diskriminatif, lsp.? |
| Potensi efek ing kesejahteraan wong | Apa wilayah pengaruh sistem ana hubungane karo kesejahteraan pangguna individu (kualitas pekerjaan, pendidikan, interaksi sosial, kesehatan mental, identitas, lingkungan dll.)? |
| Potensi kanggo pamindahan tenaga kerja manungsa | Apa ana potensial sistem kanggo ngotomatisasi tugas utawa fungsi sing ditindakake dening manungsa? Yen mangkono, apa akibat saka hilir? |
| Potensi kanggo identitas, nilai utawa manipulasi kawruh | Apa sistem dirancang utawa duweni potensi bisa ngapusi identitas pangguna utawa nilai disetel, utawa nyebar disinformasi? |
| Kesempatan kanggo ekspresi diri lan aktualisasi diri | Apa ana potensial kanggo artifice lan mamang dhewe? Apa ana potensial kanggo palsu utawa pratelan keahlian sing ora bisa diverifikasi? |
| Pengukuran harga diri | Apa ana tekanan kanggo nggambarake dhiri ideal? Bisa otomatis ngganti rasa saka pemenuhan pribadi? Apa ana meksa kanggo saingan karo sistem ing papan kerja? Apa reputasi individu luwih angel kanggo nglindhungi saka disinformasi? |
| Privacy | Apa ana tanggung jawab sing beda kanggo njaga privasi lan ana asumsi sing digawe babagan carane data pribadhi digunakake? |
| Otonomi | Apa sistem AI mengaruhi otonomi manungsa kanthi ngasilake over-reliance dening pangguna pungkasan? |
| Pangembangan manungsa | Apa ana pengaruh kanggo entuk katrampilan utama kanggo pangembangan manungsa, kayata fungsi eksekutif utawa skills interpersonal, utawa owah-owahan ing manungsa waé wektu mengaruhi learning, pangembangan pribadine, uneg-uneg kesehatan mental etc.? |
| Perawatan kesehatan pribadi | Apa ana klaim diagnosis diri utawa solusi perawatan kesehatan pribadi? Yèn mangkono, padha divalidasi kanggo standar peraturan? |
| Kesehatan mental | Apa ana risiko tambah kuatir, kasepen utawa masalah kesehatan mental liyane, utawa bisa teknologi ameliorate impact kuwi? |
| Évolusi manungsa | Apa model basa gedhe lan intelijen umum buatan bisa ngganti proses evolusi manungsa? |
| Interaksi manungsa-mesin | Apa panggunaan bisa nyebabake de-skilling lan ketergantungan liwat wektu kanggo individu? Apa ana pengaruh ing interaksi manungsa? |
| Kriteria | Conto carane iki bisa dibayangke ing analisis |
| Nilai-nilai sosial | Apa sistem kasebut kanthi dhasar ngganti sifat masyarakat, ngaktifake normalisasi gagasan sing sadurunge dianggep anti-sosial, utawa nglanggar nilai-nilai sosial budaya sing ditrapake? |
| Interaksi sosial | Apa ana pengaruh ing kontak manungsa sing migunani, kalebu hubungan emosional? |
| Kesehatan penduduk | Apa ana potensial sistem kanggo maju utawa ngrusak niat kesehatan populasi? |
| Ekspresi budaya | Apa paningkatan apropriasi budaya utawa diskriminasi bisa uga luwih angel ditangani? Apa katergantungan ing sistem kanggo nggawe keputusan ora kalebu utawa marginalize hubungan bagean masyarakat sing relevan karo budaya? |
| Pendidikan umum | Apa ana pengaruh ing peran guru utawa institusi pendidikan? Apa sistem kasebut nandheske utawa nyuda pamisah digital lan ora adil ing antarane siswa? Apa nilai intrinsik kawruh utawa pangerten kritis maju utawa rusak? |
| Kasunyatan kleru | Apa cara sing digunakake kanggo mbedakake apa sing bener isih bisa ditrapake? Apa persepsi kasunyatan dikompromi? |
| Kriteria | Conto carane iki bisa dibayangke ing analisis |
| Sektor industri | Ing sektor industri apa sistem kasebut (keuangan, pertanian, perawatan kesehatan, pendidikan, pertahanan, lsp)? |
| Model bisnis | Ing fungsi bisnis apa sistem kasebut digunakake lan ing kapasitas apa? Ing endi sistem sing digunakake (pribadi, umum, nirlaba)? |
| Dampak marang aktivitas kritis | Apa gangguan fungsi utawa kegiatan sistem mengaruhi layanan penting utawa infrastruktur kritis? |
| Jembaré panyebaran | Kepiye sistem disebarake (nggunakake sempit ing unit vs. nyebar sacara nasional / internasional)? |
| Kadewasan teknis | Carane teknis diwasa sistem? |
| Interoperability | Apa ana kemungkinan silo, nasional utawa global, sing nyandhet perdagangan bebas lan kerjasama karo mitra? |
| Kedaulatan teknologi | Apa kepinginan kanggo prilaku nyopir kedaulatan teknologi, kalebu kontrol kabeh rantai pasokan AI? |
| Redistribusi pendapatan lan pengungkit fiskal nasional | Apa peran inti saka negara berdaulat bisa dikompromi (contone, bank cadangan)? Apa kemampuan negara kanggo nyukupi pangarepan lan implikasi warga (sosial, ekonomi, politik lan sapiturute) bakal maju utawa suda? |
| Kesenjangan digital (kesenjangan AI) | Apa ketimpangan digital sing ana tambah gedhe utawa sing anyar digawe? |
| Kriteria | Conto carane iki bisa dibayangke ing analisis |
| Governance lan layanan umum | Apa mekanisme governance lan sistem governance global kena pengaruh positif utawa negatif? |
| Media massa | Apa wacana umum bisa dadi polarisasi lan mapan ing tingkat populasi? Apa ana pengaruh ing tingkat kepercayaan ing Estate Papat? Apa etika jurnalis konvensional lan standar integritas bakal luwih kena pengaruh? |
| Aturan ukum | Apa bakal ana pengaruh ing kemampuan kanggo ngenali individu utawa organisasi supaya bisa tanggung jawab (contone, tanggung jawab apa sing kudu diwenehake menyang algoritma kanggo asil sing ora becik)? Apa ana mundhut kedaulatan sing digawe (lingkungan, fiskal, kabijakan sosial, etika lsp)? |
| Politik lan kohesi sosial | Apa ana kemungkinan pandangan politik sing luwih kuat lan kurang kesempatan kanggo mbangun konsensus? Apa ana kemungkinan kelompok marginalisasi luwih lanjut? Apa gaya politik mungsuh digawe luwih utawa kurang? |
| Lisensi sosial | Apa ana keprihatinan privasi, masalah kepercayaan lan masalah moral sing kudu digatekake kanggo nrima panggunaan pemangku kepentingan? |
| Kawruh pribumi | Apa kawruh lan data Pribumi bisa dirusak utawa disalahake? Apa ana langkah-langkah sing cukup kanggo nglindhungi saka misrepresentation, misinformation lan eksploitasi? |
| Sistem ilmiah | Apa integritas akademik lan riset dikompromi? Apa ana kelangan kapercayan ing ilmu? Apa ana kemungkinan penyalahgunaan, overuse utawa penyalahgunaan? Apa akibate saka laku ngelmu? |
| Kriteria | Conto carane iki bisa dibayangke ing analisis |
| ndjogo presisi | Apa sistem dilatih ing data prilaku lan biologi individu lan bisa digunakake kanggo eksploitasi individu utawa kelompok? |
| Kompetisi digital | Apa aktor negara utawa non-negara (kayata perusahaan teknologi gedhe) bisa nggunakake sistem lan data kanggo mangerteni lan ngontrol populasi lan ekosistem negara liya, utawa ngrusak kontrol yurisdiksi? |
| Kompetisi geopolitik | Apa sistem bisa nyebabake kompetisi antarane negara babagan nggunakake data individu lan klompok kanggo kepentingan ekonomi, medis lan keamanan? |
| Ngalih kekuwatan global | Apa status negara-bangsa minangka aktor geopolitik utami ing donya ing ancaman? Apa perusahaan-perusahaan teknologi nduweni kekuwatan sing wis dicadhangake kanggo negara-bangsa lan apa dheweke wis dadi aktor berdaulat (emerging technopolar world order)? |
| Disinformation | Apa sistem kasebut bakal nggampangake produksi lan panyebaran disinformasi dening aktor negara lan non-negara kanthi pengaruh kohesi sosial, kepercayaan lan demokrasi? |
| Aplikasi panggunaan ganda | Apa ana kemungkinan kanggo aplikasi militer uga panggunaan sipil? |
| Fragmentasi tatanan global | Apa silo utawa klompok angger-angger lan kepatuhan berkembang sing ngalangi kerjasama, nyebabake inconsistencies ing aplikasi lan nggawe ruang kanggo konflik? |
| Kriteria | Conto carane iki bisa dibayangke ing analisis |
| Konsumsi energi lan sumber daya (jejak karbon) | Apa sistem lan syarat nambah konsumsi energi lan sumber daya luwih saka asil efisiensi sing dipikolehi liwat aplikasi kasebut? |
| Sumber energi | Endi sumber energi kanggo sistem (bisa dianyari vs. bahan bakar fosil etc.)? |
| Kriteria | Conto carane iki bisa dibayangke ing analisis |
| Arah lan koleksi | Apa data lan input diklumpukake dening manungsa, sensor otomatis utawa loro-lorone? |
| Asal saka data | Apa data lan input saka ahli diwenehake, diamati, sintetik utawa asale? Apa ana proteksi watermark kanggo konfirmasi provenance? |
| Sifat dinamis saka data | Apa data dinamis, statis, dinamis dianyari saka wektu kanggo wektu utawa nyata-wektu? |
| Hak-hak | Apa data kepemilikan, umum utawa pribadi (gegandhengan karo individu sing bisa dingerteni)? |
| Identifikasi lan data pribadi | Yen pribadi, data kasebut dianonim utawa dijenengi? |
| Struktur data | Apa data terstruktur, semi-terstruktur, kompleks terstruktur utawa ora terstruktur? |
| Format data | Apa format data lan metadata standar utawa ora standar? |
| Skala data | Apa skala dataset? |
| Kesesuaian lan kualitas data | Apa dataset cocog kanggo tujuan? Apa ukuran sampel cukup? Apa cukup perwakilan lan lengkap? Carane rame data? Apa rawan kesalahan? |
| Kriteria | Conto carane iki bisa dibayangke ing analisis |
| kasedhiyan informasi | Apa ana informasi sing kasedhiya babagan model sistem? |
| Tipe model AI | Apa model simbolis (aturan sing digawe manungsa), statistik (nggunakake data) utawa hibrida? |
| Hak sing digandhengake karo model | Apa model mbukak-sumber utawa kepemilikan, dhewe utawa pihak katelu dikelola? |
| Model tunggal saka pirang-pirang model | Apa sistem kasebut dumadi saka siji model utawa sawetara model sing saling gegandhengan? |
| Generatif utawa diskriminatif | Apa model generatif, diskriminatif utawa loro-lorone? |
| Bangunan model | Apa sistem sinau adhedhasar aturan sing ditulis manungsa, saka data, liwat sinau sing diawasi utawa liwat sinau penguatan? |
| Evolusi model (AI drift) | Apa model berkembang lan / utawa entuk kabisan saka interaksi karo data ing lapangan? |
| Pembelajaran federasi utawa pusat | Apa model dilatih ing tengah utawa ing sawetara server lokal utawa piranti 'pinggiran'? |
| Pangembangan/pangopènan | Apa model kasebut universal, bisa disesuaikan utawa disesuaikan karo data aktor AI? |
| Deterministik utawa probabilistik | Apa model digunakake kanthi cara deterministik utawa probabilistik? |
| Transparansi model | Apa informasi kasedhiya kanggo pangguna supaya bisa ngerti output model lan watesan utawa nggunakake kendala? |
| Watesan komputasi | Apa ana watesan komputasi ing sistem? Apa bisa prédhiksi lompatan kemampuan utawa hukum skala? |
| Kriteria | Conto carane iki bisa dibayangke ing analisis |
| Tugas (s) sing ditindakake dening sistem | Apa tugas sing ditindakake sistem (pangenalan, deteksi acara, prakiraan lsp)? |
| Nggabungke tugas lan tumindak | Apa sistem nggabungake sawetara tugas lan tumindak (sistem generasi isi, sistem otonom, sistem kontrol etc.)? |
| Tingkat otonomi sistem | Sepira otonom tumindak sistem kasebut lan peran apa sing ditindakake manungsa? |
| Derajat keterlibatan manungsa | Apa ana sawetara keterlibatan manungsa kanggo ngawasi aktivitas sakabehe sistem AI lan kemampuan kanggo mutusake kapan lan carane nggunakake sistem AI ing kahanan apa wae? |
| Aplikasi inti | Apa sistem kasebut kalebu area aplikasi inti kayata teknologi basa manungsa, visi komputer, otomatisasi lan/utawa optimasi utawa robotika? |
| Evaluation | Apa standar utawa cara kasedhiya kanggo ngevaluasi output sistem? |
Kepiye kerangka iki bisa digunakake?
Kerangka iki bisa digunakake kanthi pirang-pirang cara, kalebu:
A cara maju
Ing ringkesan, kerangka analitis diwenehake minangka basis saka toolkit sing bisa digunakake dening para pemangku kepentingan kanggo ndeleng kanthi lengkap babagan perkembangan penting ing platform utawa panggunaan kanthi konsisten lan sistematis. Dimensi sing ditampilake ing kerangka iki nduweni relevansi saka penilaian teknologi menyang kabijakan umum, saka pembangunan manungsa nganti sosiologi, lan studi masa depan lan teknologi. Nalika dikembangake kanggo AI, kerangka analitik iki nduweni aplikasi sing luwih jembar kanggo teknologi anyar liyane.
Acknowledgements
Akeh wong sing wis takon lan menehi saran babagan pangembangan kertas diskusi awal lan umpan balik sawise dirilis. Loro-lorone makalah digawe dening Sir Peter Gluckman, Présidhèn, ISC lan Hema Sridhar, mantan Kepala Penasihat Ilmu, Kementerian Pertahanan, Selandia Baru lan saiki Riset Senior Fellow, Universitas Auckland, Selandia Anyar.
Utamane, ISC Lord Martin Rees, mantan Presiden Royal Society lan Co-Founder of Center for Study of Existential Risks, Universitas Cambridge; Profesor Shivaji Sondhi, Profesor Fisika, Universitas Oxford; Profesor K Vijay Raghavan, mantan Penasehat Ilmiah Utama kanggo Pemerintah India; Amandeep Singh Gill, Utusan Umum PBB babagan Teknologi; Seán Ó hÉigeartaigh, Direktur Eksekutif, Pusat Studi Risiko Eksistensial, Universitas Cambridge; Sir David Spiegelhalter, Profesor Winton saka Public Understanding of Risk, Universitas
saka Cambridge; Amanda-June Brawner, Penasihat Kebijakan Senior lan Ian Wiggins, Direktur Urusan Internasional, Royal Society, Inggris; Dr Jerome Duberry, Managing Director lan Dr Marie-Laure Salles, Direktur, Geneva Graduate Institute; Chor Pharn Lee, Pusat Berjangka Strategis, Kantor Perdana Menteri, Singapura; Barend Mons lan Dr Simon Hodson, Komite Data (CoDATA); Profesor Yuko Harayama, Mantan Direktur Eksekutif, RIKEN; Profesor
Rémi Quirion, President, INGSA; Dr Claire Craig, Universitas Oxford lan Mantan Kepala Foresight, Kantor Ilmu Pemerintah; Prof Yoshua Bengio, Dewan Penasehat Ilmiah Sekretaris Jenderal PBB lan ing Université de Montréal; lan akeh liyane sing menehi saran marang ISC ing kertas diskusi awal.
Nyiyapake Ekosistem Riset Nasional kanggo AI: Strategi lan kemajuan ing 2024
Makalah kerja saka think tank ISC iki, Center for Science Futures, nyedhiyakake informasi dhasar lan akses menyang sumber daya saka negara-negara saka kabeh wilayah ing donya, ing macem-macem tahapan nggabungake AI menyang ekosistem riset.
Mbangun sistem sains sing siap ing mangsa ngarep ing Global South
Teknologi sing berkembang mbentuk maneh cara ilmu pengetahuan lan menehi potensial sing signifikan kanggo nguatake sistem ilmu ing Global South - yen adopsi kasebut dipandu dening pendekatan inklusif, didhukung kanthi apik, lan sensitif konteks. Cara kanggo mesthekake yen teknologi kasebut menehi kontribusi kanggo sistem ilmu pengetahuan sing luwih adil lan tahan banting, tinimbang nguatake kesenjangan sing ana, dadi fokus utama mundur strategis iki.
Waca liyane babagan pengungkapan AI ing riset: menyang standar pelaporan global 
Waca liyane babagan Menuju kesetaraan gender ing organisasi ilmiah: penilaian lan rekomendasi 
Waca liyane babagan Dialog Kawruh Global Muscat 