Addressing the Gap in International Criminal Liability through Layered Accountability and Algoritmic Sanctions for Autonomous AI

Abstrak

Inggris

Background: Autonomous AI poses a challenge to international criminal law because liability based on human actus reus and mens rea is no longer sufficient to address crimes involving AI. Objective: This study aims to analyze and reconstruct the framework of international criminal accountability for crimes involving autonomous AI by examining the principles of ethics, accountability, and AI regulation in international and regional instruments, and their implications for attribution and criminal liability under international criminal law. Methodology: This study employs a normative legal research approach, incorporating conceptual, statutory, comparative, and international-law perspectives to analyze the framework governing criminal liability for international crimes involving autonomous AI. Findings: The analysis shows that accountability for international crimes involving autonomous AI requires developing the concept of corporate liability, attributing responsibility to the relevant human actors, and imposing unconventional sanctions to prevent and control AI behavior. Originality/Uniqueness: This study proposes a risk-based, layered accountability model to address the responsibility gap in international crimes involving autonomous AI by attributing responsibility to human actors and applying unconventional sanctions.

Bahasa Indonesia

Latar belakang: Perkembangan pesat Artificial Intelligence (AI) telah melahirkan entitas otonom yang mampu mengambil keputusan dan melakukan tindakan secara mandiri sehingga berpotensi menimbulkan kerugian serta pelanggaran hukum. Kondisi tersebut menimbulkan tantangan mendasar bagi hukum pidana tradisional yang bertumpu pada konsep mens rea (niat jahat) dan keberadaan pelaku manusia, karena AI tidak memiliki kesadaran biologis sebagaimana subjek hukum konvensional. Tujuan: Penelitian ini bertujuan untuk menganalisis sekaligus merekonstruksi kerangka pertanggungjawaban pidana terhadap tindakan yang dilakukan oleh AI otonom dengan mengkaji kemungkinan penerapan pemidanaan maupun tindakan pidana terhadap entitas AI yang melakukan pelanggaran hukum. Metodologi: Penelitian ini menggunakan metode penelitian hukum normatif (normative legal research) dengan pendekatan konseptual (conceptual approach), pendekatan perundang-undangan (statutory approach), pendekatan komparatif (comparative approach), dan pendekatan hukum internasional (international law approach). Temuan Analisis dilakukan terhadap berbagai model pertanggungjawaban yang berkembang, meliputi perluasan konsep pertanggungjawaban korporasi (corporate liability), pengakuan electronic personhood, serta penerapan sanksi nonkonvensional yang berorientasi pada pencegahan dan modifikasi perilaku AI. Orisinilitas/Keunikan: Hasil penelitian menunjukkan bahwa pengaturan pertanggungjawaban pidana AI memerlukan pergeseran paradigma dari pendekatan yang berfokus pada pelaku menuju pendekatan yang berorientasi pada risiko dan mitigasi. Pergeseran tersebut diwujudkan melalui integrasi sanksi berbasis pengendalian, seperti pengawasan algoritmik (algorithmic oversight) dan penarikan produk (product recall), sebagai instrumen utama, serta melalui penerapan model pertanggungjawaban berlapis (layered accountability) yang mendistribusikan tanggung jawab kepada para aktor manusia yang terlibat, yaitu pengembang, pengguna, dan pemilik AI. Model ini diharapkan dapat memberikan landasan konseptual bagi pengembangan rezim pertanggungjawaban pidana AI yang adaptif terhadap perkembangan tata kelola AI internasional.

Kata kunci

• autonomous artificial intelligence
• criminal liability
• layered accountability
• international ai governance
• risk-based regulation