Trách nhiệm tổ chức khi sử dụng công nghệ giáo dục

Điểm quan trọng là trách nhiệm không bắt đầu khi hệ thống gây ra vấn đề. Nó bắt đầu từ lúc tổ chức lựa chọn công nghệ và tiếp tục trong quá trình triển khai, giám sát, sửa đổi cho đến khi ngừng sử dụng hệ thống.

Tổ chức giáo dục không thể chuyển trách nhiệm cho công nghệ

Trách nhiệm nền tảng của tổ chức giáo dục là duy trì quyền kiểm soát đối với những quyết định có ảnh hưởng đến người học. Một hệ thống có thể đề xuất nội dung học tập, chấm điểm, phát hiện nguy cơ bỏ học hoặc hỗ trợ giáo viên ra quyết định, nhưng việc hệ thống tạo ra kết quả không đồng nghĩa hệ thống trở thành chủ thể chịu trách nhiệm.

UNESCO nhấn mạnh nguyên tắc giám sát của con người và cho rằng AI không được thay thế trách nhiệm cuối cùng của con người hoặc pháp nhân. Khuyến nghị về đạo đức AI của UNESCO đồng thời yêu cầu khả năng truy vết, đánh giá tác động, kiểm toán và cơ chế thẩm định phù hợp đối với hệ thống AI.

Với tổ chức giáo dục, nguyên tắc này dẫn đến ba trách nhiệm thực tế.

·         Xác định cá nhân hoặc đơn vị chịu trách nhiệm đối với từng hệ thống quan trọng

·         Quy định những quyết định nào được tự động hóa và những quyết định nào bắt buộc phải có con người xem xét

·         Duy trì cơ chế để người học, phụ huynh hoặc giáo viên có thể phản ánh và yêu cầu xem xét khi công nghệ tạo ra kết quả bất lợi

Điều này đặc biệt quan trọng với các quyết định có hậu quả đáng kể như đánh giá học tập, kỷ luật, tuyển sinh, phân loại người học hoặc xác định nhu cầu hỗ trợ. Trong những trường hợp đó, việc một nhân viên chỉ chấp nhận đầu ra của thuật toán mà không có khả năng kiểm tra thực chất chưa đáp ứng được yêu cầu về giám sát con người.

Nói cách khác, trách nhiệm tổ chức không phải là “đã có người bấm nút”, mà là tổ chức đã thiết kế được một cơ chế kiểm soát trong đó con người thực sự có thẩm quyền, thông tin và năng lực để can thiệp.

Bảo vệ dữ liệu và quyền riêng tư của người học

Công nghệ giáo dục thường hoạt động bằng dữ liệu: danh tính, kết quả học tập, hành vi trên nền tảng, lịch sử tương tác, bài làm, thông tin thiết bị hoặc các dạng dữ liệu cá nhân khác. Vì vậy, trách nhiệm đối với dữ liệu không thể được xem như một vấn đề kỹ thuật riêng của bộ phận CNTT.

Tổ chức trước hết cần xác định mục đích thu thập dữ liệu. Một loại dữ liệu chỉ nên được thu thập khi có lý do rõ ràng gắn với hoạt động giáo dục hoặc vận hành hợp lệ. Từ đó, tổ chức cần kiểm soát quyền truy cập, thời gian lưu giữ, việc chuyển dữ liệu cho bên thứ ba và cách xử lý dữ liệu khi không còn cần thiết.

UNESCO đặt quyền riêng tư và bảo vệ dữ liệu trong toàn bộ vòng đời AI, đồng thời đề cập đến đánh giá tác động quyền riêng tư và cách tiếp cận “privacy by design”. OECD cũng xác định quyền riêng tư, bảo vệ dữ liệu và an ninh mạng là các thành phần trọng tâm của quản trị dữ liệu trong giáo dục.

Do đó, trước khi triển khai một nền tảng, tổ chức giáo dục cần trả lời được những câu hỏi như:

·         Nền tảng cần những dữ liệu nào và tại sao

·         Dữ liệu được lưu ở đâu và trong bao lâu

·         Nhà cung cấp có sử dụng dữ liệu cho mục đích riêng hay không

·         Ai có quyền truy cập

·         Dữ liệu có được chuyển cho bên thứ ba hay sang khu vực pháp lý khác hay không

·         Điều gì xảy ra với dữ liệu khi hợp đồng chấm dứt

Đối với trẻ em, mức thận trọng phải cao hơn. Hướng dẫn AI và trẻ em phiên bản 3.0 của UNICEF công bố năm 2025 đưa ra 10 yêu cầu cho AI lấy trẻ em làm trung tâm, trong đó có an toàn, bảo vệ dữ liệu và quyền riêng tư, công bằng, minh bạch và trách nhiệm giải trình.

Các nghĩa vụ pháp lý cụ thể vẫn phụ thuộc vào quốc gia, loại dữ liệu và nhóm người học. Vì vậy, các nguyên tắc quốc tế không thay thế việc kiểm tra luật bảo vệ dữ liệu, giáo dục và quyền trẻ em áp dụng tại nơi tổ chức hoạt động.

Đánh giá rủi ro, an toàn và tính công bằng trước khi triển khai

Một công nghệ hoạt động đúng về mặt kỹ thuật vẫn có thể tạo ra tác động giáo dục không mong muốn. Vì thế, trách nhiệm của tổ chức không thể giới hạn ở câu hỏi “phần mềm có chạy hay không”.

Đánh giá phải xem xét cả hậu quả của việc sử dụng hệ thống.

Chẳng hạn, một mô hình dự đoán nguy cơ học sinh bỏ học có thể đạt độ chính xác tương đối tốt nhưng vẫn tạo nhiều cảnh báo sai đối với một nhóm học sinh nhất định. Một công cụ giám sát thi trực tuyến có thể phát hiện hành vi bất thường nhưng đồng thời tạo ra vấn đề về quyền riêng tư hoặc đối xử bất lợi với một số người học. Công cụ AI tạo sinh có thể tạo câu trả lời thuyết phục nhưng sai về nội dung.

UNESCO coi đánh giá rủi ro là công cụ để phòng ngừa tổn hại, đồng thời đặt an toàn, an ninh, công bằng và không phân biệt đối xử trong nhóm các nguyên tắc cốt lõi của quản trị AI.

Bởi vậy, tổ chức cần đánh giá công nghệ trong đúng bối cảnh mà mình dự định sử dụng. Kết quả do nhà cung cấp công bố hoặc thử nghiệm trong môi trường khác không tự động chứng minh hệ thống phù hợp với học sinh, chương trình học hoặc điều kiện vận hành của tổ chức.

Mức đánh giá cũng phải tương xứng với rủi ro. Một ứng dụng hỗ trợ trình bày bài giảng không cần cơ chế kiểm soát giống hệ thống tham gia vào tuyển sinh hoặc đánh giá học sinh. Công nghệ càng có khả năng ảnh hưởng đến quyền lợi và cơ hội của người học, yêu cầu thẩm định, giám sát và khả năng khiếu nại càng cần chặt chẽ.

Bảo đảm minh bạch, khả năng giải trình và giám sát của con người

Người học và giáo viên cần biết khi công nghệ đóng vai trò đáng kể trong quá trình giáo dục. Minh bạch ở đây không nhất thiết có nghĩa tổ chức phải giải thích toàn bộ mã nguồn hoặc mọi chi tiết toán học của hệ thống. Điều cần thiết là cung cấp đủ thông tin để những người chịu ảnh hưởng hiểu công nghệ đang làm gì và giới hạn của nó ở đâu.

UNESCO xem minh bạch và khả năng giải thích là điều kiện quan trọng của việc triển khai AI có đạo đức, nhưng cũng lưu ý mức độ giải thích phải phù hợp với bối cảnh.

Trong môi trường giáo dục, tổ chức nên có khả năng thông tin rõ:

·         Công nghệ được sử dụng cho mục đích gì

·         Nó có tham gia vào quyết định liên quan đến người học hay không

·         Những dữ liệu chính nào được sử dụng

·         Giới hạn hoặc sai số đáng chú ý của công nghệ là gì

·         Ai chịu trách nhiệm giám sát

·         Người bị ảnh hưởng có thể yêu cầu giải thích, phản hồi hoặc xem xét lại bằng cách nào

Minh bạch cũng là điều kiện để trách nhiệm giải trình có ý nghĩa. Nếu tổ chức không biết một công cụ đưa ra kết quả như thế nào, không lưu được lịch sử quyết định và không xác định được ai chịu trách nhiệm, việc điều tra một sai sót sau đó sẽ rất khó khăn.

Vì vậy, khả năng truy vết cần được thiết kế ngay từ đầu: hệ thống nào được sử dụng, phiên bản nào, ai phê duyệt, dữ liệu nào liên quan và con người đã can thiệp ở bước nào. Đây là cơ sở để tổ chức có thể kiểm tra thay vì chỉ khẳng định rằng công nghệ “đã hoạt động như thiết kế”.

Công nghệ phải phục vụ mục tiêu giáo dục, không phải ngược lại

Một hệ thống an toàn về dữ liệu chưa chắc đã có giá trị sư phạm. Trách nhiệm của tổ chức giáo dục còn bao gồm việc chứng minh công nghệ thực sự phù hợp với mục tiêu dạy và học.

UNESCO trong hướng dẫn về AI tạo sinh cho giáo dục và nghiên cứu đề xuất cách tiếp cận lấy con người làm trung tâm, kết hợp xác nhận về đạo đức với thiết kế sư phạm phù hợp thay vì chỉ đưa công cụ mới vào lớp học vì nó đang phổ biến.

Điều đó đòi hỏi tổ chức phải phân biệt giữa khả năng kỹ thuật và giá trị giáo dục. Một công cụ có thể tạo bài tập rất nhanh nhưng vẫn làm giảm cơ hội luyện tập của học sinh. Một hệ thống có thể tự động hóa phản hồi nhưng không nhất thiết cung cấp phản hồi có chất lượng tương đương giáo viên trong mọi tình huống.

Trách nhiệm của tổ chức vì thế bao gồm việc xác định trước tiêu chí thành công và theo dõi chúng sau khi triển khai. Tiêu chí không nên chỉ là số lượt đăng nhập hoặc mức độ sử dụng, mà cần gắn với mục tiêu giáo dục thực tế: chất lượng học tập, khả năng tiếp cận, khối lượng công việc của giáo viên, mức độ tham gia hoặc những kết quả phù hợp với mục đích ban đầu.

Cùng với đó là trách nhiệm xây dựng năng lực cho con người. UNESCO coi hiểu biết về AI, dữ liệu, kỹ năng số và đạo đức AI là một phần của cách tiếp cận có trách nhiệm. UNESCO Giáo viên hoặc nhân viên không thể giám sát một hệ thống hiệu quả nếu họ không hiểu những giới hạn cơ bản của hệ thống đó.

Bình đẳng tiếp cận cũng cần được kiểm tra. OECD lưu ý rằng bảo đảm bình đẳng về khả năng tiếp cận và sử dụng giáo dục số vẫn là một thách thức, đặc biệt với những nhóm khó hưởng lợi từ công nghệ nếu không có biện pháp hỗ trợ. OECD Vì vậy, chuyển một hoạt động quan trọng sang môi trường số mà không xem xét thiết bị, kết nối, khả năng tiếp cận cho người khuyết tật hoặc năng lực số có thể tạo ra bất bình đẳng mới.

Trách nhiệm phải kéo dài suốt vòng đời công nghệ

Một sai lầm phổ biến là coi việc mua hoặc phê duyệt công nghệ là điểm kết thúc của quản trị. Trên thực tế, đó mới chỉ là điểm bắt đầu.

Hệ thống có thể thay đổi sau các bản cập nhật. Nhà cung cấp có thể sửa điều khoản dịch vụ. Dữ liệu người dùng có thể tăng về quy mô. AI có thể phản ứng khác khi hành vi người dùng thay đổi. Một công nghệ từng phù hợp cũng có thể trở nên không phù hợp khi mục đích sử dụng được mở rộng.

Vì vậy, trách nhiệm tổ chức phải bao phủ toàn bộ vòng đời:

1.    Xác định nhu cầu và mục tiêu sử dụng

2.    Thẩm định công nghệ và nhà cung cấp

3.    Đánh giá dữ liệu, an toàn, công bằng và tác động

4.    Phê duyệt phạm vi sử dụng và cơ chế giám sát

5.    Đào tạo những người trực tiếp sử dụng

6.    Theo dõi hiệu quả và sự cố trong vận hành

7.    Đánh giá lại sau thay đổi lớn và quản lý việc ngừng sử dụng

Đối với nhà cung cấp, hợp đồng không nên trở thành phương tiện chuyển toàn bộ trách nhiệm ra bên ngoài. Tổ chức vẫn cần biết các nghĩa vụ quan trọng về dữ liệu, bảo mật, thay đổi dịch vụ, báo cáo sự cố, quyền kiểm tra và xử lý dữ liệu khi hợp đồng kết thúc. OECD chỉ ra rằng sự tham gia ngày càng lớn của các nhà cung cấp thương mại khiến quản trị dữ liệu và công nghệ trở thành vấn đề trực tiếp liên quan đến niềm tin trong hệ thống giáo dục.

Cơ chế khắc phục cũng là một phần của trách nhiệm. Nếu người học bị ảnh hưởng bởi một kết quả sai, mục tiêu không chỉ là sửa phần mềm mà còn phải xem xét hậu quả đối với người đó, sửa quyết định khi cần và ngăn vấn đề tái diễn.

Tóm lại, trách nhiệm tổ chức trong công nghệ giáo dục không chỉ là mua đúng công cụ hoặc bảo đảm hệ thống hoạt động. Tổ chức giáo dục phải chịu trách nhiệm về mục đích sử dụng, dữ liệu, an toàn, công bằng, tính minh bạch, giám sát của con người, giá trị sư phạm và cách xử lý hậu quả trong suốt vòng đời công nghệ.

Nguyên tắc cốt lõi là: công nghệ có thể hỗ trợ thực hiện nhiệm vụ, nhưng không thay thế trách nhiệm của tổ chức đối với người học. Khi mức độ ảnh hưởng của công nghệ càng lớn, cơ chế thẩm định, giám sát, giải trình và khắc phục cũng phải càng rõ ràng.