Xa hơn, văn kiện hướng tới xây dựng một hệ thống giá trị để mọi công nghệ trí tuệ nhân tạo xuất hiện trong tương lai dù hiện đại đến đâu cũng luôn phải vận hành trong khuôn khổ của nền tư pháp dân chủ.

Quyền con người luôn là điểm khởi đầu
Nguyên tắc đầu tiên yêu cầu mọi ứng dụng AI trong lĩnh vực tư pháp phải tuyệt đối tôn trọng các quyền cơ bản của con người và được xem là “chiếc neo” của toàn bộ Hiến chương.

Nguyên tắc xác định nếu một thuật toán giúp rút ngắn thời gian giải quyết vụ án nhưng lại làm ảnh hưởng đến quyền được xét xử công bằng, quyền bảo vệ dữ liệu cá nhân hay quyền tiếp cận công lý của người dân, thì thuật toán đó không còn đáp ứng các chuẩn mực của nền tư pháp.

Nói cách khác, trong cách tiếp cận của Châu Âu, AI không được phép làm thay đổi những giá trị đã được hình thành qua hàng trăm năm phát triển của nền tư pháp hiện đại. Công nghệ có thể thay đổi theo thời gian nhưng quyền con người phải luôn được gìn giữ.

Châu Âu xác định nguyên tắc không để thuật toán tạo ra sự bất công mới. Một trong những lo ngại lớn nhất đối với AI là hiện tượng thiên lệch dữ liệu (algorithmic bias). Nhiều nghiên cứu quốc tế đã chỉ ra rằng nếu dữ liệu huấn luyện phản ánh những thiên lệch xã hội trong quá khứ, AI có nguy cơ lặp lại hoặc khuếch đại chính những thiên lệch đó trong các khuyến nghị của mình.

Thuật toán không tự sinh ra định kiến nhưng nếu được huấn luyện bằng những dữ liệu thiếu cân bằng hoặc mang định kiến xã hội, AI hoàn toàn có thể lặp lại và “khuếch đại” những bất bình đẳng vốn đã tồn tại.

Vì lẽ đó, Hiến chương yêu cầu mọi hệ thống AI trong lĩnh vực tư pháp phải được thiết kế và vận hành theo nguyên tắc không phân biệt đối xử. Đó là yêu cầu về bản chất công lý, không đơn thuần là yêu cầu về mặt kỹ thuật.

Bởi lẽ, nếu một hệ thống AI đưa ra những gợi ý đánh giá khác nhau chỉ vì giới tính, màu da, dân tộc, tuổi tác hay hoàn cảnh xã hội của một đương sự, nền tư pháp sẽ phải đối mặt với một dạng bất công mới, đó là thứ bất công được tạo ra bởi chính công nghệ.

Dữ liệu chính xác mới đảm bảo công lý

Nguyên tắc thứ ba nhấn mạnh một yêu cầu tưởng như thuần túy kỹ thuật nhưng lại mang ý nghĩa pháp lý đặc biệt: dữ liệu phải chính xác, toàn vẹn và an toàn. AI chỉ thông minh khi dữ liệu đầu vào đáng tin cậy.

Do vậy, một thuật toán được xây dựng trên dữ liệu thiếu chính xác sẽ tạo ra những kết quả lệch lạc. Điều tưởng như hiển nhiên ấy lại đặc biệt quan trọng trong lĩnh vực tư pháp. Bởi khác với nhiều lĩnh vực khác, một sai lệch nhỏ trong dữ liệu tố tụng cũng có thể dẫn đến những hệ quả rất lớn đối với quyền tự do, tài sản và danh dự của công dân.

Vì vậy, Hiến chương nhấn mạnh yêu cầu bảo đảm chất lượng, tính toàn vẹn và độ an toàn của dữ liệu cũng như quy trình xử lý thông tin. Đó là điều kiện tiên quyết để bảo đảm tính khách quan của hoạt động xét xử, không còn là câu chuyện của kỹ thuật.

Nguyên tắc minh bạch để tạo dựng niềm tin được Châu Âu xác định rõ ràng. Trong tư pháp, tính đúng đắn của quyết định phải đi cùng với khả năng giải trình và kiểm chứng. Đó là lý do Hiến chương yêu cầu các hệ thống AI phải bảo đảm tính minh bạch, khả năng kiểm tra và truy vết.

Nếu ngay cả Thẩm phán hoặc chuyên gia kỹ thuật cũng không thể giải thích vì sao AI đưa ra khuyến nghị đó (hiện tượng “hộp đen”), thì không thể đặt niềm tin vào hệ thống ấy.

Minh bạch là để con người có thể kiểm soát máy móc là điều kiện cốt lõi để bảo đảm trách nhiệm giải trình. Đó một trong những nền tảng vững chắc của nhà nước pháp quyền.

Trong 5 nguyên tắc của Hiến chương, nguyên tắc con người phải là người quyết định cuối cùng có ý nghĩa sâu sắc nhất. Hiến chương không phủ nhận vai trò của AI. Ngược lại, AI được khuyến khích hỗ trợ Thẩm phán trong việc tìm kiếm án lệ, nghiên cứu hồ sơ, phân loại tài liệu hoặc thực hiện các tác vụ quản trị Tòa án.

Thế nhưng, từ hỗ trợ đến thay thế là một ranh giới tuyệt đối không được vượt qua. Một bản án không đơn thuần là kết quả của việc áp dụng các quy định pháp luật. Đó còn là quá trình đánh giá chứng cứ khách quan, cân nhắc hoàn cảnh cụ thể, lắng nghe tranh tụng tại phiên tòa, vận dụng tinh thần của pháp luật và chịu trách nhiệm trước xã hội về mỗi phán quyết. Không một thuật toán nào có thể gánh vác đầy đủ trách nhiệm nhân văn và pháp lý ấy.

Bởi vậy, Hiến chương khẳng định con người phải luôn giữ quyền kiểm soát đối với AI và chịu trách nhiệm về quyết định cuối cùng. Đó là nguyên tắc bảo vệ bản chất cốt lõi của quyền tư pháp.

Triết lý không thay đổi khi AI tạo sinh xuất hiện
Nhiều năm sau khi Hiến chương được ban hành, thế giới bước vào giai đoạn bùng nổ của AI tạo sinh (Generative AI). Các công cụ mới có khả năng tạo lập văn bản, tóm tắt hồ sơ hàng nghìn trang và phân tích pháp lý mở ra những cơ hội chưa từng có cho hoạt động tố tụng.

Một lần nữa, Châu Âu không chọn cách cấm đoán cực đoan hay thả nổi công nghệ. CEPEJ tiếp tục ban hành các hướng dẫn chuyên sâu về sử dụng AI tạo sinh trong hệ thống tư pháp nhằm giúp các Tòa án khai thác tối đa lợi ích của công nghệ nhưng vẫn giữ vững các "hàng rào" đã xác lập từ năm 2018.

Công nghệ có thể thay đổi với tốc độ vũ bão, nhưng triết lý quản trị vẫn vẹn nguyên. Đó là AI có thể hỗ trợ nghiên cứu, hỗ trợ quản lý, hỗ trợ giảm tải khối lượng công việc nhưng AI tuyệt đối không được thay thế Thẩm phán trong việc giải thích pháp luật và đưa ra phán quyết.
Công nghệ có thể thay đổi từng ngày nhưng công lý chỉ có thể bền vững khi con người vẫn là chủ thể đưa ra phán quyết và chịu trách nhiệm về phán quyết ấy. Đó cũng là thông điệp xuyên suốt mà Châu Âu kiên định theo đuổi cho đến hôm nay.

(Còn tiếp…)

(Bài viết được thực hiện trên cơ sở nghiên cứu, đối chiếu các văn kiện, hướng dẫn chính thức của CEPEJ cùng các tài liệu nghiên cứu quốc tế về ứng dụng trí tuệ nhân tạo trong lĩnh vực tư pháp)