Vì sao hệ thống công nghệ giáo dục cần minh bạch?

Minh bạch tạo ra khả năng quan sát cần thiết để những câu hỏi đó được trả lời. Khi thông tin về mục đích, dữ liệu, logic quyết định, hiệu quả, giới hạn và trách nhiệm của hệ thống có thể được tiếp cận ở mức phù hợp, nhà trường mới có cơ sở giám sát công nghệ thay vì phụ thuộc hoàn toàn vào nhà cung cấp. Đây cũng là nền tảng để niềm tin được hình thành từ bằng chứng và khả năng kiểm chứng.

Minh bạch trong công nghệ giáo dục thực sự bao gồm những gì?

Minh bạch không đồng nghĩa với việc công khai toàn bộ mã nguồn, thuật toán hay bí mật thương mại. Một hệ thống có thể không mở mã nguồn nhưng vẫn minh bạch nếu những người chịu ảnh hưởng có đủ thông tin để hiểu mục đích sử dụng, loại dữ liệu được xử lý, nguyên tắc tạo ra khuyến nghị, mức độ tin cậy, giới hạn và cơ chế xử lý khi kết quả có vấn đề.

Trong giáo dục, có thể xem tính minh bạch qua một số lớp liên kết với nhau: minh bạch về mục đích của công nghệ; minh bạch về dữ liệu được thu thập và sử dụng; minh bạch về các yếu tố ảnh hưởng đến kết quả; minh bạch về hiệu quả và sai số; và minh bạch về trách nhiệm quản trị. Với hệ thống có ảnh hưởng lớn như đánh giá, xếp loại hoặc đưa ra khuyến nghị liên quan đến người học, yêu cầu này càng quan trọng.

OECD khuyến nghị rằng với các công cụ số công nghệ cao có tác động lớn đến học sinh, giáo viên hoặc cơ sở giáo dục, cơ quan giáo dục cần minh bạch về mục tiêu và quá trình mà thuật toán sử dụng để đưa ra khuyến nghị. Ít nhất, người sử dụng cần được giải thích những tiêu chí hoặc yếu tố mà hệ thống tính đến, cùng với những giới hạn của công cụ.

Như vậy, mục tiêu của minh bạch không phải biến mọi người thành kỹ sư phần mềm. Mục tiêu là làm cho một hệ thống đủ “nhìn thấy được” để người chịu ảnh hưởng có khả năng hiểu, đặt câu hỏi và kiểm tra những quyết định có ý nghĩa đối với họ.

Minh bạch biến một hệ thống khó quan sát thành đối tượng có thể giám sát

Giám sát chỉ khả thi khi tồn tại thông tin để so sánh giữa cách hệ thống được tuyên bố sẽ vận hành và cách nó thực sự vận hành. Nếu nhà trường không biết dữ liệu nào đang được thu thập, dữ liệu được chuyển cho ai, tiêu chí nào ảnh hưởng đến kết quả hoặc hệ thống sai trong những trường hợp nào, cơ quan giám sát gần như không có điểm tựa để phát hiện sai lệch.

Cơ chế này có thể hình dung thành một chuỗi: công khai thông tin tạo khả năng quan sát; khả năng quan sát tạo điều kiện kiểm tra; kiểm tra cho phép phát hiện sai lệch; và phát hiện sai lệch tạo cơ sở yêu cầu điều chỉnh. Vì vậy, minh bạch không thay thế hoạt động giám sát mà cung cấp dữ liệu đầu vào cho giám sát.

Điều này đặc biệt quan trọng trong môi trường giáo dục vì sản phẩm công nghệ thay đổi nhanh. Báo cáo GEM 2023 của UNESCO cho biết các sản phẩm công nghệ giáo dục thay đổi trung bình khoảng 36 tháng một lần, trong khi bằng chứng độc lập về giá trị gia tăng của chúng vẫn còn hạn chế. Trong số các doanh nghiệp EdTech tại Vương quốc Anh được báo cáo, chỉ 7% đã thực hiện thử nghiệm đối chứng ngẫu nhiên và 12% sử dụng chứng nhận của bên thứ ba.

Khi công nghệ thay đổi nhanh hơn chu kỳ đánh giá, một lần phê duyệt ban đầu không đủ để bảo đảm hệ thống tiếp tục hoạt động như mong đợi. Minh bạch về cập nhật phiên bản, thay đổi mô hình, thay đổi chính sách dữ liệu hoặc thay đổi tiêu chí ra quyết định vì thế trở thành một phần của giám sát liên tục.

Dữ liệu cá nhân là ví dụ rõ nhất về khoảng trống giám sát. UNESCO ghi nhận chỉ 16% quốc gia có luật bảo đảm rõ ràng quyền riêng tư dữ liệu trong giáo dục và 29% có chính sách liên quan. Báo cáo cũng dẫn phân tích cho thấy 89% trong 163 sản phẩm EdTech được khuyến nghị cho trẻ em trong giai đoạn COVID-19 có khả năng hoặc thực tế theo dõi trẻ ngoài thời gian và không gian học tập.

Những con số này cho thấy tại sao chỉ có chính sách chung về “bảo vệ dữ liệu” là chưa đủ. Muốn giám sát thực tế, nhà trường cần biết hệ thống thu thập trường dữ liệu nào, mục đích của từng loại dữ liệu, thời gian lưu trữ, bên được quyền truy cập và liệu dữ liệu có được sử dụng cho quảng cáo, huấn luyện mô hình hoặc mục đích ngoài giáo dục hay không.

Minh bạch giúp xác định ai phải chịu trách nhiệm khi hệ thống gây ra vấn đề

Một kết quả do phần mềm tạo ra có thể đi qua nhiều chủ thể: nhà cung cấp xây dựng hệ thống, trường học lựa chọn sản phẩm, quản trị viên cấu hình công cụ, giáo viên sử dụng kết quả và người học chịu tác động. Nếu vai trò của từng bên không rõ ràng, trách nhiệm rất dễ bị đẩy từ bên này sang bên khác.

Minh bạch giúp chuyển một vấn đề kỹ thuật thành một chuỗi trách nhiệm có thể truy vết. Khi mục đích sử dụng, dữ liệu đầu vào, quy tắc vận hành, người phê duyệt và người có quyền can thiệp được xác định, một kết quả bất thường có thể được đặt vào đúng khâu để kiểm tra.

Ví dụ, nếu một hệ thống cảnh báo học sinh “có nguy cơ thất bại”, người giám sát cần biết cảnh báo chỉ là tín hiệu hỗ trợ hay được dùng trực tiếp để quyết định can thiệp; những biến nào được đưa vào mô hình; sai số được đánh giá thế nào; giáo viên có quyền bác bỏ kết quả hay không; và học sinh có thể yêu cầu xem xét lại bằng con người hay không. Thiếu những thông tin đó, trách nhiệm giải trình rất khó vận hành ngay cả khi hệ thống đạt độ chính xác trung bình cao.

NIST xem tính “accountable and transparent” cùng tính giải thích được, bảo vệ quyền riêng tư, độ tin cậy, an toàn và công bằng là những đặc tính quan trọng của AI đáng tin cậy. NIST cũng nhấn mạnh rằng bỏ qua các đặc tính này có thể làm tăng xác suất hoặc mức độ của hậu quả tiêu cực.

Vì vậy, minh bạch tạo giá trị lớn nhất khi nó dẫn đến khả năng hành động: có người chịu trách nhiệm xem xét, có quy trình sửa lỗi, có cơ chế khiếu nại và có quyền thay đổi hoặc ngừng sử dụng công nghệ khi rủi ro vượt mức chấp nhận được.

Minh bạch tạo niềm tin có cơ sở thay vì yêu cầu người dùng tin tưởng mù quáng

Niềm tin bền vững vào công nghệ giáo dục không nên hình thành từ tuyên bố rằng hệ thống “thông minh”, “cá nhân hóa” hay “chính xác”. Người học và giáo viên có lý do để tin khi họ có thể biết công nghệ nhằm làm gì, bằng chứng hiệu quả đến đâu, dữ liệu của họ được xử lý thế nào và chuyện gì xảy ra khi hệ thống sai.

Minh bạch hỗ trợ niềm tin theo hai chiều. Khi hệ thống hoạt động tốt, thông tin có thể kiểm chứng giúp chứng minh điều đó. Khi hệ thống có giới hạn, việc công khai giới hạn giúp người sử dụng đặt đúng kỳ vọng. Cả hai đều tốt hơn việc che giấu sự không chắc chắn.

OECD mô tả giải thích cách công nghệ thông minh hoạt động, cách dữ liệu được xử lý và việc tương tác với các bên liên quan như những biện pháp nhằm giải quyết vấn đề chấp nhận xã hội và niềm tin công chúng. OECD đồng thời coi minh bạch về thuật toán, giá trị và tiêu chí sử dụng trong triển khai là vấn đề ngày càng quan trọng đối với quản trị giáo dục số.

Đối với AI tạo sinh, nhu cầu này càng rõ khi tốc độ triển khai công nghệ vượt khả năng thích ứng của nhiều cơ chế quản trị. UNESCO cho rằng sự xuất hiện nhanh của các công cụ GenAI đã đi trước quá trình điều chỉnh của khung pháp lý quốc gia, khiến nhiều cơ sở giáo dục chưa sẵn sàng để thẩm định các công cụ này và tạo ra rủi ro đối với quyền riêng tư dữ liệu.

Niềm tin vì thế không nên được đo bằng mức độ người dùng ít đặt câu hỏi. Một hệ thống đáng tin hơn là hệ thống cho phép câu hỏi được đặt ra, cung cấp thông tin để kiểm tra và duy trì cơ chế xử lý khi câu trả lời cho thấy có vấn đề.

Những thông tin nào cần được công khai để giám sát có ý nghĩa?

Mức minh bạch cần thiết phụ thuộc vào mức độ ảnh hưởng của công nghệ. Một ứng dụng luyện từ vựng và một hệ thống dùng để chấm điểm hoặc xác định học sinh có nguy cơ bỏ học không nên chịu cùng một yêu cầu. Công nghệ càng ảnh hưởng lớn đến quyền lợi hoặc cơ hội học tập, nghĩa vụ giải thích và giám sát càng cần mạnh.

Ở mức thực tiễn, một cơ sở giáo dục cần có khả năng xác định ít nhất các vấn đề sau:

·         Mục tiêu của hệ thống và những quyết định mà hệ thống được phép hỗ trợ

·         Loại dữ liệu người học và giáo viên được thu thập, nguồn dữ liệu và mục đích sử dụng

·         Những tiêu chí hoặc yếu tố chính tác động đến kết quả hoặc khuyến nghị

·         Bằng chứng về hiệu quả, độ chính xác và khác biệt hiệu suất giữa các nhóm người dùng khi có liên quan

·         Những trường hợp hệ thống có thể thất bại, tạo sai số hoặc không phù hợp để sử dụng

·         Thời gian lưu trữ dữ liệu, quyền truy cập, chia sẻ với bên thứ ba và cơ chế xóa dữ liệu

·         Những thay đổi đáng kể về phiên bản, mô hình, chức năng hoặc chính sách dữ liệu

·         Người chịu trách nhiệm phê duyệt, vận hành, giám sát và xử lý sự cố

·         Cơ chế để giáo viên hoặc người học yêu cầu con người xem xét lại một kết quả quan trọng

Các yêu cầu này không nhất thiết phải được trình bày bằng cùng một tài liệu cho mọi đối tượng. Quản trị viên có thể cần tài liệu kỹ thuật và hợp đồng; giáo viên cần biết cách diễn giải kết quả; học sinh và phụ huynh cần thông tin dễ hiểu về dữ liệu, ảnh hưởng và quyền của họ. Minh bạch chỉ có giá trị thực tế khi thông tin đến được đúng người ở mức họ có thể sử dụng.

OECD đặc biệt khuyến nghị duy trì hỗ trợ của con người và, khi thích hợp, một phương án thay thế bằng con người khi AI tự động hóa các phần của quản trị, dạy và học. Điều này biến minh bạch từ việc “được biết” thành khả năng yêu cầu xem xét và can thiệp.

UNESCO cũng khuyến nghị các chính phủ xây dựng luật, tiêu chuẩn và thực hành nhằm bảo vệ quyền, sự an toàn, quyền riêng tư và dữ liệu của người học và giáo viên; ngăn việc giám sát không phù hợp; và quản lý việc sử dụng AI có đạo đức trong giáo dục.

Minh bạch có giới hạn và không thể thay thế các cơ chế bảo vệ khác

Một sai lầm phổ biến là coi hệ thống minh bạch đồng nghĩa với hệ thống tốt. Hai khái niệm này không giống nhau. Một mô hình có thể công khai cách hoạt động nhưng vẫn thiếu chính xác; một chính sách dữ liệu có thể được mô tả rõ ràng nhưng vẫn thu thập quá nhiều dữ liệu; một thuật toán có thể giải thích được nhưng vẫn tạo kết quả bất lợi cho một nhóm học sinh.

NIST lưu ý rõ rằng một hệ thống minh bạch không vì thế mà tự động trở thành hệ thống chính xác, bảo vệ quyền riêng tư, an toàn hay công bằng. Các đặc tính của một hệ thống đáng tin cậy phải được xem xét cùng nhau và có thể tồn tại những đánh đổi giữa chúng.

Ngoài ra, minh bạch tuyệt đối cũng không phải lúc nào cũng thích hợp. Công khai chi tiết bảo mật có thể tạo thêm lỗ hổng; tiết lộ dữ liệu cá nhân để chứng minh cách hệ thống hoạt động có thể xâm phạm quyền riêng tư; và một mô hình phức tạp có thể không thể giải thích đầy đủ từng phép tính theo cách hữu ích cho giáo viên hoặc học sinh.

Vì vậy, nguyên tắc phù hợp hơn là minh bạch theo rủi ro và theo đối tượng sử dụng. Những quyết định có hậu quả cao cần khả năng giải thích, kiểm chứng và khiếu nại cao hơn. Những thông tin nhạy cảm có thể được cung cấp cho cơ quan kiểm toán hoặc bên đánh giá độc lập thay vì công khai hoàn toàn. Mục tiêu là đạt đủ khả năng quan sát để kiểm soát rủi ro mà không tạo ra rủi ro mới.

Cách tiếp cận này cũng giải thích vì sao minh bạch phải đi cùng kiểm thử hiệu quả, bảo vệ dữ liệu, đánh giá thiên lệch, an ninh mạng, giám sát của con người và cơ chế trách nhiệm. Minh bạch là lớp giúp những biện pháp đó có thể được nhìn thấy và kiểm chứng; nó không phải sự thay thế cho chúng.

Tính minh bạch quan trọng đối với hệ thống công nghệ giáo dục vì nó làm cho quyền lực của công nghệ trở nên có thể quan sát và kiểm tra. Khi nhà trường, giáo viên, người học và cơ quan quản lý biết hệ thống được dùng để làm gì, xử lý dữ liệu nào, dựa trên tiêu chí nào, hoạt động tốt đến đâu và ai chịu trách nhiệm, họ mới có thể phát hiện sai lệch, yêu cầu giải trình và can thiệp trước khi vấn đề trở thành hậu quả khó đảo ngược.

Giá trị lớn nhất của minh bạch vì thế không nằm ở việc cung cấp càng nhiều thông tin càng tốt. Nó nằm ở việc cung cấp đúng thông tin để người chịu ảnh hưởng có thể hiểu, giám sát, chất vấn và hành động. Chính khả năng đó biến niềm tin từ một giả định thành một niềm tin có căn cứ — đồng thời giữ công nghệ ở vị trí phù hợp: công cụ phục vụ mục tiêu giáo dục, thay vì một hệ thống mà giáo dục phải mặc nhiên phục tùng.