Cách phân định trách nhiệm khi công nghệ giáo dục gây sai sót

Phân định trách nhiệm công nghệ giáo dục cần dựa trên mối quan hệ giữa ba nhóm chủ thể chính: tổ chức triển khai công nghệ, người sử dụng công nghệ và nhà cung cấp giải pháp. Mỗi bên có trách nhiệm khác nhau tùy theo quyền kiểm soát, khả năng phòng ngừa và nghĩa vụ minh bạch trong quá trình vận hành.

Bản chất của việc phân định trách nhiệm khi công nghệ giáo dục gây sai sót

Trách nhiệm không chỉ được xác định bằng nguồn gốc của lỗi

Một sai sót công nghệ có thể xuất phát từ nhiều nguyên nhân khác nhau:

·         Lỗi thiết kế hoặc giới hạn kỹ thuật của hệ thống

·         Dữ liệu đầu vào không chính xác hoặc không đầy đủ

·         Cấu hình sử dụng không phù hợp với mục tiêu giáo dục

·         Thiếu quy trình kiểm tra của tổ chức vận hành

·         Người dùng hiểu sai hoặc phụ thuộc quá mức vào kết quả do hệ thống tạo ra

Vì vậy, việc xác định trách nhiệm cần xem xét toàn bộ chuỗi vận hành thay vì chỉ tìm một bên chịu lỗi trực tiếp.

Một hệ thống trí tuệ nhân tạo đưa ra kết quả đánh giá sai có thể liên quan đến nhà cung cấp nếu thuật toán có vấn đề, nhưng tổ chức giáo dục vẫn có trách nhiệm nếu sử dụng kết quả đó mà không có bước kiểm tra hoặc giám sát cần thiết.

Nguyên tắc kiểm soát quyết định là cơ sở quan trọng

Bên nào có quyền kiểm soát lớn hơn đối với một khâu trong hệ thống thường phải chịu trách nhiệm cao hơn đối với khâu đó.

Có thể xem xét theo các yếu tố:

·         Ai tạo ra hoặc quản lý dữ liệu?

·         Ai lựa chọn và triển khai công nghệ?

·         Ai quyết định sử dụng kết quả do công nghệ tạo ra?

·         Ai có khả năng phát hiện và khắc phục sai sót?

Nguyên tắc này giúp tránh cách tiếp cận đơn giản rằng mọi lỗi do công nghệ đều thuộc về nhà cung cấp.

Vai trò và trách nhiệm của từng bên trong hệ sinh thái công nghệ giáo dục

Trách nhiệm của tổ chức giáo dục

Tổ chức giáo dục thường là bên chịu trách nhiệm quản trị tổng thể vì đây là chủ thể quyết định cách công nghệ được đưa vào hoạt động giáo dục.

Các trách nhiệm chính bao gồm:

·         Đánh giá mức độ phù hợp của công nghệ trước khi triển khai

·         Xây dựng quy trình kiểm tra và giám sát kết quả

·         Đào tạo giáo viên, nhân viên sử dụng hệ thống đúng cách

·         Bảo đảm quyết định giáo dục quan trọng không phụ thuộc hoàn toàn vào máy móc

·         Quản lý quyền truy cập và bảo vệ dữ liệu người học

Ví dụ, nếu một trường học sử dụng hệ thống tự động xếp loại học sinh nhưng không kiểm tra sai lệch dữ liệu đầu vào, trách nhiệm quản trị có thể thuộc về trường học dù phần mềm được cung cấp bởi một công ty bên ngoài.

Trách nhiệm của người sử dụng công nghệ

Người dùng như giáo viên, cán bộ quản lý hoặc nhân viên hỗ trợ công nghệ có trách nhiệm trong phạm vi thao tác và quyết định của mình.

Các trách nhiệm bao gồm:

·         Hiểu giới hạn của công cụ đang sử dụng

·         Kiểm tra tính hợp lý của kết quả do hệ thống tạo ra

·         Không sử dụng kết quả tự động như một quyết định tuyệt đối khi cần đánh giá con người

·         Báo cáo lỗi hoặc dấu hiệu bất thường trong quá trình vận hành

Công nghệ có thể hỗ trợ quyết định, nhưng trong nhiều hoạt động giáo dục, yếu tố chuyên môn của con người vẫn giữ vai trò quan trọng.

Trách nhiệm của nhà cung cấp công nghệ

Nhà cung cấp chịu trách nhiệm đối với chất lượng, tính an toàn và mức độ minh bạch của sản phẩm hoặc dịch vụ được cung cấp.

Các nghĩa vụ thường bao gồm:

·         Thiết kế hệ thống theo yêu cầu kỹ thuật phù hợp

·         Công bố giới hạn và điều kiện sử dụng

·         Bảo đảm tính ổn định của phần mềm

·         Khắc phục lỗi kỹ thuật đã được xác định

·         Bảo vệ dữ liệu theo cam kết và yêu cầu pháp lý

Nếu nhà cung cấp quảng bá một hệ thống có khả năng đánh giá chính xác nhưng không công bố giới hạn, gây hiểu nhầm cho tổ chức sử dụng, trách nhiệm của nhà cung cấp có thể gia tăng.

Mô hình phân định trách nhiệm dựa trên nguyên nhân sai sót

Sai sót do lỗi kỹ thuật của hệ thống

Trong trường hợp lỗi xuất phát từ thiết kế, lập trình hoặc vận hành kỹ thuật của sản phẩm, nhà cung cấp thường là bên cần chịu trách nhiệm chính.

Các dấu hiệu nhận biết:

·         Hệ thống không hoạt động theo đặc tính đã công bố

·         Có lỗi phần mềm lặp lại

·         Thuật toán xử lý sai trong điều kiện sử dụng phù hợp

·         Nhà cung cấp không xử lý lỗi đã được thông báo

Tuy nhiên, tổ chức giáo dục vẫn cần có biện pháp giảm thiểu tác động nếu lỗi có thể được phát hiện trong quá trình vận hành.

Sai sót do triển khai hoặc quản trị của tổ chức

Một công nghệ có thể hoạt động đúng về mặt kỹ thuật nhưng gây hậu quả do được áp dụng sai bối cảnh.

Ví dụ:

·         Dùng công cụ đánh giá tự động cho mục tiêu mà hệ thống không được thiết kế

·         Không kiểm tra kết quả trước khi đưa ra quyết định

·         Không đào tạo người sử dụng

Trong trường hợp này, trách nhiệm quản trị thường thuộc về tổ chức triển khai.

Sai sót do hành vi sử dụng của cá nhân

Người dùng có thể chịu trách nhiệm nếu:

·         Cố ý nhập dữ liệu sai

·         Bỏ qua hướng dẫn sử dụng

·         Tự ý thay đổi cấu hình hệ thống

·         Dùng kết quả công nghệ ngoài phạm vi cho phép

Trách nhiệm cá nhân cần được xem xét dựa trên mức độ hiểu biết, quyền hạn và khả năng kiểm soát của người đó.

Các yếu tố cần xem xét để đưa ra kết luận trách nhiệm chính xác

Mức độ kiểm soát của từng bên

Bên có khả năng ngăn chặn sai sót trước khi xảy ra thường có nghĩa vụ lớn hơn trong việc phòng ngừa.

Ví dụ:

·         Nhà cung cấp kiểm soát thuật toán

·         Tổ chức giáo dục kiểm soát quy trình sử dụng

·         Giáo viên kiểm soát việc áp dụng kết quả vào thực tế

Mức độ minh bạch của công nghệ

Các hệ thống càng ảnh hưởng đến quyền lợi của người học càng cần có khả năng giải thích:

·         Dữ liệu nào được sử dụng

·         Quy trình tạo ra kết quả

·         Giới hạn của hệ thống

·         Điều kiện khiến kết quả có thể sai lệch

Thiếu minh bạch làm tăng rủi ro phân định trách nhiệm vì các bên khó xác định nguyên nhân thực sự.

Mức độ ảnh hưởng của sai sót

Không phải mọi lỗi công nghệ đều có mức độ nghiêm trọng như nhau.

Cần phân biệt:

·         Lỗi nhỏ ảnh hưởng đến trải nghiệm sử dụng

·         Lỗi ảnh hưởng đến kết quả đánh giá

·         Lỗi ảnh hưởng đến quyền lợi học tập hoặc dữ liệu cá nhân

Mức độ hậu quả sẽ ảnh hưởng đến cách đánh giá trách nhiệm.

Cách xây dựng cơ chế quản trị trách nhiệm trong công nghệ giáo dục

Để giảm tranh chấp khi xảy ra sai sót, tổ chức giáo dục nên thiết lập cơ chế quản trị từ trước khi triển khai công nghệ.

Các biện pháp quan trọng gồm:

·         Xác định rõ vai trò của từng bên trong hợp đồng và quy trình vận hành

·         Quy định trách nhiệm khi phát hiện lỗi

·         Thiết lập cơ chế kiểm tra kết quả tự động

·         Lưu trữ nhật ký vận hành để truy xuất nguyên nhân

·         Đánh giá định kỳ hiệu quả và rủi ro của hệ thống

·         Duy trì quyền giám sát của con người đối với các quyết định quan trọng

Cách tiếp cận này giúp chuyển từ việc xử lý lỗi sau khi xảy ra sang phòng ngừa rủi ro ngay từ giai đoạn thiết kế và triển khai.

Những hiểu lầm phổ biến về trách nhiệm khi công nghệ giáo dục gây lỗi

Một số quan điểm có thể dẫn đến phân định trách nhiệm không chính xác:

·         “Máy gây lỗi nên nhà cung cấp chịu toàn bộ trách nhiệm”

·         “Trường học mua phần mềm nên không chịu trách nhiệm”

·         “Người dùng chỉ làm theo hệ thống nên không có trách nhiệm”

Thực tế, công nghệ giáo dục thường hoạt động trong một hệ thống gồm nhiều lớp kiểm soát. Trách nhiệm cần được phân bổ dựa trên vai trò thực tế của từng bên thay vì chỉ dựa trên việc ai tạo ra công cụ.

Phân định trách nhiệm công nghệ giáo dục cần được xem là một vấn đề quản trị liên kết giữa công nghệ, con người và tổ chức. Nhà cung cấp chịu trách nhiệm về chất lượng và giới hạn của giải pháp, tổ chức giáo dục chịu trách nhiệm về việc lựa chọn và quản lý công nghệ, còn người dùng chịu trách nhiệm trong phạm vi sử dụng và quyết định của mình.

Một cơ chế trách nhiệm hiệu quả không nhằm tìm ra một bên để đổ lỗi, mà nhằm bảo đảm mỗi chủ thể đều thực hiện đúng vai trò kiểm soát rủi ro trong quá trình ứng dụng công nghệ vào giáo dục.