Cách kết hợp con người và AI trong giáo dục

Điểm quan trọng vì thế không phải là chọn giữa “con người” và “AI”, mà là thiết kế một cơ chế để biết khi nào nên tin gợi ý của AI, khi nào phải kiểm tra lại, ai có quyền bác bỏ và kết quả sau quyết định được dùng để cải thiện hệ thống như thế nào.

Phân vai đúng: AI hỗ trợ, con người chịu trách nhiệm quyết định

Một hệ thống người–AI chỉ hoạt động tốt khi vai trò của hai bên được xác định trước. Nếu AI vừa tạo gợi ý vừa trở thành cơ sở mặc định cho quyết định, người sử dụng rất dễ chuyển từ “được hỗ trợ” sang “phụ thuộc vào hệ thống”.

AI có lợi thế ở những nhiệm vụ như tổng hợp lượng dữ liệu lớn, so sánh nhiều trường hợp theo cùng tiêu chí, nhận diện những mẫu khó quan sát thủ công và tạo cảnh báo sớm. Chẳng hạn, một hệ thống có thể phát hiện học sinh có dấu hiệu giảm mức độ tham gia dựa trên lịch sử làm bài, số lần đăng nhập, tiến độ học và kết quả đánh giá.

Nhưng dữ liệu đó không giải thích đầy đủ nguyên nhân. Học sinh giảm hoạt động có thể vì chưa hiểu bài, gặp khó khăn gia đình, bị bệnh, thiếu thiết bị hoặc đơn giản là dữ liệu trên nền tảng không phản ánh việc học ngoài hệ thống. Đây là phần mà phán đoán chuyên môn của giáo viên trở nên cần thiết.

Vì vậy, nên tách ba chức năng:

·         AI cung cấp tín hiệu, chẳng hạn điểm rủi ro, dự báo, phân loại hoặc phương án đề xuất

·         Con người kiểm tra ý nghĩa của tín hiệu trong bối cảnh thực tế, bao gồm những dữ liệu AI không có

·         Người có thẩm quyền đưa ra quyết định và chịu trách nhiệm, đặc biệt với quyết định ảnh hưởng đáng kể đến người học

Nguyên tắc này cũng giải quyết một hiểu lầm phổ biến: giữ “con người trong vòng lặp” không đồng nghĩa với việc thêm một nút bấm xác nhận sau kết quả AI. Nếu người sử dụng không có đủ thông tin, quyền hạn hoặc thời gian để chất vấn gợi ý, sự hiện diện của con người chỉ mang tính hình thức.

Các hướng dẫn quản trị AI trong giáo dục thường đặt giám sát của con người, trách nhiệm giải trình và bảo vệ quyền lợi người học ở vị trí trung tâm chính vì lý do đó.

Thiết kế quy trình ra quyết định người–AI theo vòng lặp 5 bước

Thay vì sử dụng AI ở một điểm riêng lẻ, có thể thiết kế quy trình như một vòng lặp gồm năm bước.

AI tạo gợi ý cùng thông tin cần để đánh giá

Hệ thống không nên chỉ hiển thị một kết luận như “học sinh có nguy cơ cao”. Người ra quyết định cần biết ít nhất dữ liệu nào được sử dụng, thời điểm dữ liệu được cập nhật, yếu tố nào ảnh hưởng đáng kể đến gợi ý và mức độ chắc chắn của hệ thống nếu có thể biểu diễn.

Mục đích là biến đầu ra AI từ một “phán quyết” thành một bằng chứng có thể được xem xét.

Con người kiểm tra dữ liệu và bối cảnh

Giáo viên hoặc người quản lý cần đối chiếu gợi ý với thông tin mà hệ thống có thể không biết: diễn biến gần đây của người học, chất lượng dữ liệu, mục tiêu của môn học, điều kiện gia đình, nhu cầu hỗ trợ đặc biệt hoặc những thay đổi chưa được cập nhật.

Bước này đặc biệt quan trọng vì mô hình có thể xử lý chính xác dữ liệu đầu vào nhưng dữ liệu đầu vào lại không phản ánh đầy đủ thực tế.

So sánh gợi ý AI với đánh giá độc lập của con người

Một cách giảm thiên kiến tự động hóa là yêu cầu người có chuyên môn hình thành đánh giá ban đầu trước khi xem hoặc chấp nhận đề xuất AI ở những quyết định quan trọng.

Nếu giáo viên luôn nhìn thấy kết luận của AI trước, kết luận đó có thể trở thành “mỏ neo” và ảnh hưởng đến cách diễn giải dữ liệu tiếp theo. Đánh giá độc lập tạo ra một điểm so sánh rõ ràng hơn.

Ra quyết định theo quy tắc đã xác định

Quyết định không nên phụ thuộc hoàn toàn vào cảm giác của từng người sử dụng. Tổ chức cần quy định trước trường hợp nào có thể chấp nhận gợi ý nhanh, trường hợp nào bắt buộc kiểm tra bổ sung và trường hợp nào phải chuyển lên cấp có chuyên môn cao hơn.

Nhờ đó, cùng một mức độ rủi ro sẽ được xử lý tương đối nhất quán giữa các giáo viên hoặc đơn vị.

Ghi nhận kết quả để tạo vòng phản hồi

Sau quyết định, nên lưu lại gợi ý của AI, quyết định của con người, lý do chấp nhận hoặc bác bỏ và kết quả thực tế sau đó khi có thể quan sát được.

Đây là phần biến hệ thống từ công cụ “đưa ra dự báo” thành cơ chế học hỏi. Nếu không theo dõi kết quả, tổ chức sẽ khó biết AI thực sự giúp cải thiện quyết định hay chỉ làm quy trình trở nên phức tạp hơn.

Đặt ngưỡng can thiệp theo mức độ rủi ro của quyết định

Không phải mọi quyết định giáo dục đều cần mức giám sát giống nhau. Một gợi ý tài liệu học bổ sung và một quyết định liên quan đến xếp lớp, kỷ luật hoặc cơ hội học tập có mức độ ảnh hưởng rất khác.

Vì vậy, quyền tự động hóa nên tỷ lệ nghịch với mức độ nghiêm trọng của hậu quả.

Với quyết định rủi ro thấp

AI có thể được sử dụng linh hoạt hơn cho các nhiệm vụ như đề xuất bài tập, sắp xếp tài nguyên học tập, gợi ý câu hỏi ôn tập hoặc cảnh báo để giáo viên xem xét.

Sai số trong những trường hợp này thường có khả năng sửa chữa nhanh và ít tạo ra hậu quả lâu dài. Tuy nhiên, hệ thống vẫn cần được theo dõi để tránh việc các lỗi nhỏ lặp lại trên quy mô lớn.

Với quyết định rủi ro cao

Những quyết định ảnh hưởng trực tiếp đến quyền lợi, cơ hội hoặc đánh giá chính thức của người học cần cơ chế chặt chẽ hơn. Một nguyên tắc vận hành hợp lý là 100% quyết định thuộc nhóm rủi ro cao phải được người có thẩm quyền xem xét, thay vì để đầu ra AI tự động trở thành quyết định cuối cùng.

Ngoài mức độ hậu quả, tổ chức có thể tăng yêu cầu kiểm tra khi xuất hiện các tín hiệu như:

·         Dữ liệu đầu vào thiếu hoặc bất thường

·         Hệ thống thể hiện độ chắc chắn thấp

·         Kết quả khác đáng kể với đánh giá chuyên môn

·         Trường hợp nằm ngoài nhóm dữ liệu mà hệ thống thường xử lý

·         Quyết định có thể tạo tác động khó đảo ngược đối với người học

Không nên áp dụng một ngưỡng chung cho mọi trường học hoặc mọi loại hệ thống. Ngưỡng phù hợp phụ thuộc mục tiêu sử dụng, dữ liệu, khả năng sửa sai và mức độ hậu quả. Vì thế, giá trị của một ngưỡng không nằm ở việc nó là một con số cố định, mà ở việc tổ chức có thể giải thích tại sao ngưỡng đó phù hợp với mức rủi ro đang quản lý.

Xử lý bất đồng giữa đánh giá của giáo viên và gợi ý AI

Bất đồng không nhất thiết là dấu hiệu hệ thống thất bại. Ngược lại, đây thường là thời điểm tạo ra nhiều thông tin nhất.

Nếu AI và giáo viên cùng đi đến một kết luận, quyết định tương đối đơn giản. Khi hai bên khác nhau, cần xác định nguyên nhân thay vì mặc định rằng một bên đúng.

Có bốn khả năng thường gặp.

Thứ nhất, AI nhìn thấy mẫu dữ liệu mà con người bỏ sót. Ví dụ, sự suy giảm nhỏ trong nhiều chỉ số riêng biệt có thể không đáng chú ý với giáo viên nhưng khi kết hợp lại lại tạo thành một tín hiệu đáng kiểm tra.

Thứ hai, giáo viên biết thông tin mà AI không có. Một thay đổi tạm thời trong gia đình hoặc sức khỏe có thể giải thích hành vi mà mô hình xem là bất thường.

Thứ ba, dữ liệu hoặc mô hình có vấn đề. Hồ sơ thiếu, dữ liệu cũ hoặc nhóm người học khác biệt với dữ liệu trước đây có thể làm gợi ý kém tin cậy.

Thứ tư, con người cũng có thể sai. Kinh nghiệm chuyên môn không loại bỏ thiên kiến nhận thức. Đó là lý do hệ thống tốt không nên coi “con người luôn đúng” hay “AI khách quan hơn” là giả định mặc định.

Quy trình xử lý bất đồng nên yêu cầu người ra quyết định kiểm tra lần lượt dữ liệu, bối cảnh, độ tin cậy của mô hình và căn cứ chuyên môn. Với trường hợp quan trọng, có thể cần đánh giá thứ hai từ một người khác.

Một nguyên tắc hữu ích là không yêu cầu giáo viên chứng minh tại sao mình “không nghe AI”, mà yêu cầu cả quyết định chấp nhận lẫn quyết định bác bỏ đều có căn cứ tương xứng với mức độ rủi ro. Cách làm này giảm hai cực đoan: tin hệ thống vô điều kiện và bác bỏ hệ thống chỉ vì trực giác.

Đo chất lượng bằng hiệu quả của cả nhóm người–AI

Một sai lầm trong đánh giá hệ thống thông minh là chỉ hỏi mô hình chính xác bao nhiêu phần trăm. Độ chính xác của AI không tự động cho biết chất lượng của quyết định sau khi con người sử dụng nó.

Thước đo quan trọng hơn là: quy trình người–AI có tạo ra quyết định tốt hơn so với cách làm trước đây hay không.

Có thể xây dựng ba mốc so sánh:

1.    Kết quả khi con người quyết định mà không có AI

2.    Kết quả của AI khi được đánh giá độc lập

3.    Kết quả khi con người sử dụng AI làm hệ thống hỗ trợ quyết định

Nếu mô hình người–AI không cải thiện được kết quả so với mốc con người làm việc độc lập, tổ chức cần xem lại giá trị thực tế của việc triển khai, ngay cả khi mô hình AI có chỉ số kỹ thuật cao.

Tùy mục tiêu, các chỉ số cần theo dõi có thể bao gồm độ chính xác của dự báo, tỷ lệ quyết định bị đảo ngược sau kiểm tra, tỷ lệ giáo viên bác bỏ gợi ý AI, thời gian xử lý, mức chênh lệch kết quả giữa các nhóm người học và tỷ lệ các cảnh báo thực sự dẫn tới can thiệp hữu ích.

Đặc biệt, tỷ lệ đồng ý giữa người và AI không phải chỉ số thành công nếu đứng một mình. Một tỷ lệ đồng ý rất cao có thể nghĩa là AI đưa ra gợi ý tốt, nhưng cũng có thể cho thấy người dùng đang chấp nhận máy móc. Ngược lại, tỷ lệ bác bỏ cao không nhất thiết chứng minh hệ thống kém; nó có thể cho thấy AI đang được dùng như một công cụ phát hiện trường hợp cần suy nghĩ thêm.

Do đó, chỉ số phải được đọc cùng với kết quả cuối cùng và lý do ra quyết định.

Duy trì minh bạch, phản hồi và cải tiến hệ thống theo thời gian

Hiệu quả của một hệ thống người–AI có thể thay đổi khi chương trình học, hành vi người học, dữ liệu hoặc cách giáo viên sử dụng công cụ thay đổi. Vì vậy, quyết định triển khai AI không kết thúc ở thời điểm đưa hệ thống vào sử dụng.

Tổ chức nên lưu dấu vết tối thiểu cho các quyết định quan trọng: dữ liệu được sử dụng, gợi ý AI, người xem xét, quyết định cuối cùng và lý do thay đổi nếu quyết định khác với đề xuất ban đầu. Việc này giúp truy nguyên khi có sai sót và tạo dữ liệu để đánh giá hệ thống.

Cũng cần theo dõi lỗi theo nhóm thay vì chỉ nhìn kết quả trung bình. Một mô hình có thể đạt kết quả tổng thể chấp nhận được nhưng hoạt động kém hơn với một nhóm học sinh cụ thể. Khi đó, chỉ số trung bình có thể che giấu rủi ro thực tế.

Phản hồi của giáo viên là một nguồn dữ liệu quan trọng khác. Nếu nhiều giáo viên liên tục bác bỏ cùng một loại gợi ý vì một lý do giống nhau, vấn đề có thể nằm ở mô hình, dữ liệu hoặc cách đầu ra được trình bày chứ không phải ở từng người sử dụng.

Mục tiêu cuối cùng là xây dựng một vòng lặp:

AI đề xuất → con người đánh giá → quyết định được ghi nhận → kết quả được quan sát → hệ thống và quy trình được điều chỉnh.

Cách tiếp cận này cũng tạo ra ranh giới rõ ràng về trách nhiệm. AI có thể mở rộng khả năng phân tích, nhưng trách nhiệm giáo dục không thể được chuyển cho một mô hình chỉ vì mô hình tạo ra kết quả bằng con số hoặc xác suất.

Kết hợp con người và AI trong giáo dục nên được thiết kế như một hệ thống ra quyết định bổ trợ, không phải quá trình chuyển quyền quyết định từ giáo viên sang thuật toán. AI phát huy giá trị khi giúp con người nhìn thấy dữ liệu và mẫu khó phát hiện; con người tạo giá trị bằng việc kiểm tra bối cảnh, cân nhắc hậu quả, xử lý ngoại lệ và chịu trách nhiệm.

Một quy trình tốt cần phân vai rõ ràng, yêu cầu kiểm tra theo mức rủi ro, coi bất đồng người–AI là tín hiệu cần điều tra, đánh giá hiệu quả của cả nhóm thay vì chỉ đánh giá mô hình và duy trì vòng phản hồi sau quyết định. Khi những điều kiện đó được đáp ứng, AI trở thành một lớp hỗ trợ cho phán đoán chuyên môn thay vì một cơ chế thay thế phán đoán chuyên môn.