“Panopticon kỹ thuật số” - Khi trí tuệ nhân tạo khiến chúng ta trở nên trong suốt

Một trong những điều đáng suy nghĩ trong thời đại thuật toán Internet và A.I., là nếu tôi biết rằng những gì mình làm, nói, viết và chia sẻ đều có thể được ghi nhận, phân tích và dự đoán, liệu tôi còn hoàn toàn tự do trong cách mình hành động không? Trong trường hợp mọi hành động của tôi đều bị quan sát, tôi khác gì một “tù nhân”?

Chúng ta có thể bắt đầu suy tư từ một ý tưởng Panopticon của luật gia và triết gia người Anh Jeremy Bentham được hình thành ở cuối thế kỷ 18. Jeremy Bentham đánh giá một chế độ vận hành hiệu quả dựa trên mức độ hạnh phúc và lợi ích số đông. Mối quan tâm ấy dẫn ông đến câu hỏi làm thế nào để giảm thiểu tội phạm, cải tạo tù nhân và tổ chức nhà tù hiệu quả hơn. Sau này, ông có sáng kiến về một “nhà tù toàn cảnh” hay còn gọi là Panopticon.

Trong hình dung của Bentham, đây là dạng nhà tù vòng tròn, ở trung tâm có một tháp canh, các buồng giam xây chung quanh, do ánh sáng chiếu từ bên ngoài vào, khiến các buồng giam gần như trong suốt, và tù nhân tại các buồng giam không thể nhìn thấy trong tháp canh có bao nhiêu người gác, những người gác này có đang quan sát mình hay không. Như vậy, ông tạo ra một hệ thống nhà tù với một số ít giám ngục nhưng lại có thể giám sát một lượng lớn tù nhân liên tục và hiệu quả. Vì vậy, tù nhân không biết mình có đang bị nhìn không, người này có xu hướng tự điều chỉnh và kiểm soát hành vi của mình. Ý tưởng của Bentham thực tế chưa bao giờ được thực hiện vào thời của ông vì nhiều lý do chính trị, xã hội. Nhưng ý tưởng của ông thì đã truyền cảm hứng cho nhiều công trình nhà tù ví dụ như nhà tù Eastern State Penitentiary ở Philadelphia ở Mỹ, hoặc nhà tù Panóptico ở Bogota, hay Panóptico ở Ibague. Nhưng những nhà tù này cũng không dựa hoàn toàn vào thiết kế ban đầu của Bentham mà có nhiều cải biên phù hợp với bối cảnh địa phương. Dù công trình nguyên bản của Bentham không được thực hiện, ý tưởng Panopticon tiếp tục ảnh hưởng đến tư duy về kiến trúc nhà tù, giám sát và tổ chức xã hội.

Điều đáng chú ý là đến thế kỷ 20, triết gia Michel Foucault ¹ đã đưa Panopticon vượt ra khỏi phạm vi kiến trúc nhà tù để trở thành một khái niệm giúp phân tích quyền lực. Điều quan trọng không còn là người giám sát có thực sự đang nhìn hay không, mà là người bị giám sát biết rằng mình có thể bị nhìn. Từ đó hình thành một cơ chế tự điều chỉnh bản thân. Bởi vì, một khi tôi biết và có thể ý thức mình đang bị nhìn, tôi bắt đầu phải học cách tự điều chỉnh bản thân để có thể “thích nghi” với “môi trường” mà tôi đang thuộc về.

Trong bối cảnh phát triển công nghệ Internet như hiện nay, phải chăng con người cũng đang ở trong một “nhà tù toàn cảnh”? Nói khác đi, con người có thể sống trong một tâm thế “có ai đó đang quan sát tôi”. Nếu trong Panopticon, kiến trúc tạo ra khả năng tù nhân bị quan sát liên tục, thì trong môi trường kỹ thuật số, chính hạ tầng công nghệ có thể tạo ra một trạng thái tương tự mà không cần đến một nhà tù vật lý. Chúng ta đăng một điều gì đó trên mạng xã hội và được hệ thống ghi nhận, chuyển đổi thành dữ liệu để các thuật toán phân tích, và qua những phản hồi, đề xuất hoặc cơ chế phân phối nội dung, hệ thống tác động đến cách chúng ta điều chỉnh những lần đăng tiếp theo. Lần tiếp theo khi đăng một nội dung, chúng ta sẽ làm khác đi. Dần dà, không cần phải có ai nói chúng ta nên làm gì, chúng ta sẽ học cách tự điều chỉnh. Không cần một người gác tù cụ thể ra lệnh. Chính khả năng bị quan sát, đánh giá và phản hồi khiến chúng ta bắt đầu điều chỉnh hành vi của mình. Như thế, tôi tưởng rằng mình đang tạo ra một nội dung rất cá nhân: câu chuyện của tôi, hình ảnh của tôi, cảm xúc của tôi... nhưng thực ra, việc nội dung ấy được nhìn thấy, phân phối và đánh giá lại phụ thuộc vào một hệ thống được hình thành từ vô số dữ liệu của những người khác.

Ở một khía cạnh nào đó, nếu Panopticon của Bentham là một kiến trúc được thiết kế để làm cho con người có thể bị quan sát, thì A.I. cho phép chúng ta hình dung một Panopticon mới, không còn được xây bằng tường và tháp canh mà bằng dữ liệu và thuật toán, trong đó con người bị quan sát và liên tục tạo ra dữ liệu về bản thân, và dữ liệu này có thể được quan sát, dán nhãn phân loại và dự đoán.

Chúng ta có thể làm gì?

Đức Thánh Cha Lê-ô XIV đã nhắc đến việc bảo vệ phẩm giá con người trước những thay đổi lớn lao do công nghệ kỹ thuật số và A.I. mang lại trong Thông điệp Magnifica Humanitas. Chúng ta hiểu rằng công nghệ không trung lập, nó tác động tới cuộc sống con người, nhân quyền, cơ hội, danh tiếng, và tự do mà từ đó có thể tạo ra những hình thức loại trừ (số 102). Qua đó, ngài mời gọi con người sử dụng A.I. với một sự phân định luân lý và xã hội ưu tiên con người, để chính trí tuệ con người với ý thức và tự do định hướng những đổi mới kỹ thuật và xác định trách nhiệm cũng như giới hạn của nó (số 97). Để con người không bị đặt vào các buồng giam panopticon cách thụ động, chúng ta ý thức, và chủ động bước ra, chọn tiếp thu những gì và từ chối tiếp thu điều gì, chọn chia sẻ điều gì và không chia sẻ điều gì, hiểu rằng A.I. có thể nhìn thấy và số hóa tôi, nhưng không quyết định thay tôi, càng không thể trở thành tiêu chuẩn cứu cánh để tôi hiểu về chính mình.

Công nghệ không đơn giản chỉ là một sản phẩm được tạo ra, nó mang mục đích và lợi ích cho người tạo ra nó, kinh doanh nó và kiểm soát nó (số 102). Điều thú vị là để viết những dòng này, tôi đã hỏi ChatGPT, Gemini, và Claude rằng liệu A.I. có thể thay thế con người không; và câu trả lời tôi nhận được rằng: A.I. không thay thế con người, nhưng con người biết sử dụng A.I. sẽ thay thế con người không sử dụng A.I. Điều này để lại một suy tư rất lớn rằng chúng ta không bài trừ công nghệ, cụ thể là A.I., nhưng chúng ta sẽ sử dụng những tiện ích do A.I. mang lại như thế nào để không đánh mất tự do và nhân phẩm, trách nhiệm và sự tin cậy, trải nghiệm con người và tương quan liên vị; hay dùng chính từ ngữ của Đức Thánh Cha là “giữ trọn vẹn bản chất con người” (remain profoundly human, số 15). Việc bị quan sát không đáng lo cho bằng chúng ta để cho cách hệ thống số hóa và dự đoán về con người trở thành cách chúng ta định nghĩa và định vị lẫn nhau.

Con người vượt qua những tính toán của máy móc!

Điều quan trọng là cách chúng ta giữ được phẩm giá, tự do, ý thức con người ngang qua những tương quan xã hội, những trải nghiệm của con tim và cảm xúc, điều mà máy móc không thể thay thế. Con người có thể sống trong một thế giới nơi ngày càng nhiều điều về mình có thể bị quan sát, ghi nhận, số hóa và dự đoán. Nhưng điều đó không có nghĩa là chúng ta phải trở thành những tù nhân thụ động của chính những hệ thống ấy. Giữ được phẩm giá và tự do chính là khả năng đặt lại những giới hạn đối với sự phụ thuộc và những hình thức chi phối có thể phát sinh từ A.I., đồng thời đặt câu hỏi về những lợi ích, mục đích và quyền lực đứng phía sau các hệ thống công nghệ.

Vi, ACI

¹ Michel Foucault (1926–1984) là triết gia và sử gia tư tưởng người Pháp, nổi tiếng với những phân tích về quyền lực, tri thức, giám sát và kỷ luật trong xã hội hiện đại. Ông cho rằng quyền lực không chỉ đến từ sự cưỡng chế bên ngoài mà còn có thể được nội tâm hóa, khiến cá nhân tự giám sát và điều chỉnh hành vi. Trong Discipline and Punish (1975), Foucault sử dụng mô hình Panopticon của Jeremy Bentham để minh họa cho cơ chế quyền lực này