Trách nhiệm nhà cung cấp công nghệ giáo dục

Vì vậy, trách nhiệm của nhà cung cấp phải được nhìn theo toàn bộ vòng đời sản phẩm: từ xác định mục đích sử dụng, thiết kế, thu thập dữ liệu, triển khai thuật toán đến giám sát sau khi đưa vào sử dụng. UNICEF hiện đánh giá EdTech theo các tiêu chí rộng hơn khả năng hoạt động đơn thuần, bao gồm tính minh bạch, an toàn, tính phù hợp về giáo dục, bối cảnh sử dụng và khả năng tiếp cận. Phiên bản 2.0 của EdTech for Good Framework được xây dựng trên kinh nghiệm đánh giá hơn 1.400 công cụ EdTech cùng hơn 900 đóng góp từ 141 tổ chức tại 60 quốc gia.

Bảo vệ dữ liệu phải bắt đầu từ thiết kế sản phẩm

Dữ liệu giáo dục có thể bao gồm danh tính, thông tin liên hệ, lịch sử học tập, điểm số, hoạt động trên nền tảng, dữ liệu hành vi và những suy luận được tạo ra từ các dữ liệu này. Với trẻ em, mức độ nhạy cảm còn cao hơn vì người dùng nhỏ tuổi có thể chưa hiểu đầy đủ hậu quả của việc chia sẻ thông tin.

Trách nhiệm đầu tiên của nhà cung cấp vì thế không phải là viết một chính sách quyền riêng tư thật dài, mà là giảm nhu cầu thu thập dữ liệu ngay từ kiến trúc sản phẩm. Nguyên tắc hợp lý là chỉ thu thập dữ liệu cần thiết cho mục đích giáo dục đã được xác định, hạn chế thời gian lưu giữ, kiểm soát quyền truy cập và không biến dữ liệu học tập thành nguồn dữ liệu sử dụng cho những mục đích thứ cấp không được giải thích rõ ràng.

Đây cũng là logic của nguyên tắc data minimisation và data protection by design and by default trong GDPR: dữ liệu cá nhân phải phù hợp, liên quan và giới hạn ở mức cần thiết; các biện pháp bảo vệ phải được tích hợp ngay từ giai đoạn thiết kế; cấu hình mặc định phải ưu tiên mức bảo vệ quyền riêng tư cao. Ủy ban châu Âu nêu các biện pháp như giả danh hóa và mã hóa như những ví dụ của bảo vệ dữ liệu từ thiết kế.

Đối với người dùng nhỏ tuổi, yêu cầu còn nghiêm ngặt hơn về mặt trách nhiệm. Hướng dẫn AI và trẻ em của UNICEF nhấn mạnh việc bảo vệ dữ liệu và quyền riêng tư của trẻ, đồng thời coi an toàn, minh bạch, công bằng và trách nhiệm giải trình là những yêu cầu cốt lõi của hệ thống lấy trẻ em làm trung tâm.

Điều đó có nghĩa nhà cung cấp nên có khả năng trả lời được những câu hỏi thực tế như: dữ liệu nào đang được thu thập, vì mục đích gì, ai được truy cập, được lưu trong bao lâu, có chuyển cho bên thứ ba hay không và người dùng có thể yêu cầu sửa hoặc xóa dữ liệu bằng cơ chế nào.

An toàn của người học là trách nhiệm sản phẩm, không chỉ là trách nhiệm của nhà trường

Một quan niệm dễ gây sai lệch là nhà cung cấp chỉ cung cấp công cụ, còn nhà trường, giáo viên hoặc phụ huynh phải tự chịu trách nhiệm về cách người học sử dụng công cụ đó.

Trong thực tế, nhiều rủi ro được quyết định ngay từ thiết kế sản phẩm. Cơ chế đề xuất, chatbot, chức năng giao tiếp, hệ thống thông báo, thu thập vị trí, phân tích hành vi hay cách tối ưu mức độ tương tác đều có thể tạo hoặc làm tăng nguy cơ đối với người học.

UNICEF lưu ý rằng giáo dục số vừa tạo cơ hội học tập vừa mang theo các rủi ro cần được quản lý chủ động. Các khuyến nghị về bảo vệ trẻ em trong giáo dục số không chỉ dành cho cơ quan quản lý và trường học mà còn có giá trị đối với những nhà cung cấp dịch vụ giáo dục công và tư.

Trách nhiệm của nhà cung cấp vì vậy bao gồm ít nhất ba lớp kiểm soát.

·         Phòng ngừa bằng thiết kế an toàn, cấu hình mặc định phù hợp độ tuổi và giới hạn những chức năng không cần thiết

·         Phát hiện bằng cơ chế nhận biết hành vi hoặc sự cố có khả năng gây hại

·         Ứng phó bằng quy trình báo cáo, xử lý, hỗ trợ và khắc phục khi sự cố xảy ra

Với các hệ thống AI tương tác trực tiếp với trẻ em, việc chỉ thêm dòng cảnh báo “AI có thể mắc lỗi” là chưa đủ. UNICEF nhấn mạnh rằng trẻ em không phải phiên bản thu nhỏ của người trưởng thành; tương tác phải phù hợp với từng giai đoạn phát triển và sản phẩm không nên trình bày thông tin với mức độ chắc chắn không phù hợp đối với người dùng trẻ tuổi.

An toàn cũng không nên được đánh đổi để tăng thời gian sử dụng. Các nguyên tắc bảo vệ trẻ em trực tuyến được G7 thống nhất năm 2026 nhấn mạnh safety và privacy by design, age assurance phù hợp với quyền con người và hệ thống đề xuất ưu tiên an toàn, sức khỏe của trẻ thay vì tối đa hóa engagement.

Minh bạch phải giúp người dùng hiểu hệ thống đang làm gì

Một sản phẩm EdTech có thể công bố rất nhiều tài liệu nhưng vẫn thiếu minh bạch nếu giáo viên, học sinh hoặc nhà trường không thể hiểu cách những chức năng quan trọng tác động đến họ.

Minh bạch có ý nghĩa thực tế khi nhà cung cấp giải thích được:

·         Hệ thống sử dụng dữ liệu nào để tạo kết quả

·         Kết quả do con người hay thuật toán tạo ra

·         AI được sử dụng ở công đoạn nào

·         Một điểm số hoặc đề xuất có ý nghĩa gì

·         Các giới hạn và nguồn sai số chính nằm ở đâu

·         Người dùng có thể phản hồi hoặc yêu cầu xem xét kết quả bằng cách nào

Yêu cầu này đặc biệt quan trọng khi hệ thống có khả năng ảnh hưởng đến việc đánh giá học sinh, cá nhân hóa lộ trình học hoặc quyết định quyền tiếp cận cơ hội giáo dục.

UNESCO khuyến nghị cách tiếp cận lấy con người làm trung tâm đối với AI tạo sinh trong giáo dục, bao gồm bảo vệ quyền riêng tư dữ liệu, xác định điều kiện sử dụng phù hợp với độ tuổi, kiểm định công cụ về mặt đạo đức và thiết kế việc sử dụng theo mục tiêu sư phạm.

Trong EU, yêu cầu minh bạch đối với một số hệ thống AI theo Điều 50 của AI Act đã bắt đầu áp dụng từ ngày 2 tháng 8 năm 2026. Ví dụ, một số chatbot phải làm rõ rằng người dùng đang tương tác với AI. Tuy nhiên, nghĩa vụ cụ thể vẫn phụ thuộc vào loại hệ thống, vai trò của tổ chức và phạm vi áp dụng của pháp luật.

Do đó, “minh bạch” không đồng nghĩa với công khai mã nguồn hoặc toàn bộ bí mật thương mại. Mục tiêu là cung cấp đủ thông tin để người chịu tác động hiểu bản chất của công nghệ, giới hạn của kết quả và quyền của mình.

Nhà cung cấp phải kiểm soát thiên lệch và bảo đảm khả năng tiếp cận công bằng

Công nghệ giáo dục không hoạt động trong môi trường trung tính. Một mô hình được huấn luyện từ dữ liệu không đại diện đầy đủ, một giao diện không hỗ trợ người khuyết tật hoặc một sản phẩm chỉ hoạt động tốt trên thiết bị cấu hình cao đều có thể tạo ra bất lợi cho một số nhóm người học.

Trách nhiệm về công bằng vì vậy có hai chiều.

Thứ nhất là công bằng trong cách hệ thống xử lý người dùng. Với những thuật toán phân loại, dự đoán, chấm điểm hoặc đề xuất, nhà cung cấp cần kiểm tra liệu sai số có tập trung bất thường ở một nhóm người dùng nào hay không. Việc một mô hình có độ chính xác tổng thể cao chưa chứng minh nó hoạt động công bằng cho mọi nhóm.

Thứ hai là công bằng trong khả năng sử dụng công nghệ. Sản phẩm giáo dục cần tính đến thiết bị, băng thông, ngôn ngữ, khả năng tiếp cận và những nhu cầu khác nhau của người học. Một tính năng tiên tiến nhưng loại trừ nhóm người dùng có điều kiện kết nối kém có thể tạo ra giá trị kỹ thuật mà không tạo ra giá trị giáo dục tương ứng.

UNICEF đưa non-discrimination, fairness và inclusion vào các yêu cầu của AI lấy trẻ em làm trung tâm; EdTech for Good Framework cũng xem accessibility và contextual appropriateness là những yếu tố để đánh giá công cụ giáo dục số.

Điều này không có nghĩa nhà cung cấp có thể bảo đảm mọi người dùng luôn nhận kết quả giống nhau. Công bằng cần được đánh giá theo mục đích của hệ thống, đặc điểm người học và hậu quả của sai số. Đối với một công cụ luyện tập tự nguyện, mức rủi ro khác với hệ thống được dùng để chấm thi hoặc quyết định quyền tiếp cận chương trình giáo dục.

Công nghệ giáo dục phải chứng minh giá trị sư phạm, không chỉ hiệu suất kỹ thuật

Một nền tảng chạy nhanh, ít lỗi và có mô hình AI chính xác chưa chắc đã là một sản phẩm giáo dục tốt.

Nhà cung cấp còn có trách nhiệm chứng minh rằng những tuyên bố liên quan đến học tập có cơ sở phù hợp. Nếu sản phẩm tuyên bố “cải thiện kết quả học”, “cá nhân hóa hiệu quả” hoặc “giúp học sinh tiến bộ nhanh hơn”, bằng chứng cần tương xứng với mức độ của tuyên bố đó.

UNICEF EdTech for Good Framework 2.0 đặt câu hỏi không chỉ về tính an toàn và minh bạch của công cụ mà còn về việc các tuyên bố của sản phẩm có được hỗ trợ bằng bằng chứng thích hợp hay không. Kinh nghiệm đánh giá hơn 1.400 công cụ là một dấu hiệu cho thấy việc xem xét bằng chứng đang trở thành một phần có cấu trúc của đánh giá EdTech, thay vì chỉ dựa trên danh sách tính năng.

Ở cấp độ sản phẩm, nhà cung cấp nên phân biệt ba loại bằng chứng.

·         Bằng chứng kỹ thuật cho biết hệ thống hoạt động đúng theo đặc tả hay không

·         Bằng chứng trải nghiệm cho biết người học và giáo viên có thể sử dụng hệ thống hiệu quả trong điều kiện thực tế hay không

·         Bằng chứng giáo dục cho biết công nghệ có thực sự hỗ trợ mục tiêu học tập đã tuyên bố hay không

Ba lớp này không thể thay thế cho nhau. Một mô hình dự đoán đạt chỉ số kỹ thuật cao không tự động chứng minh người học sẽ tiến bộ. Tương tự, người dùng thích một ứng dụng không đồng nghĩa ứng dụng đó tạo ra kết quả học tập tốt hơn.

Nhà cung cấp cũng phải giữ vai trò của con người ở những nơi hậu quả của sai số đủ lớn. AI có thể hỗ trợ giáo viên nhưng không nên mặc nhiên được xem là nguồn quyết định cuối cùng chỉ vì nó tạo kết quả nhanh hoặc nhất quán.

Hệ thống tác động đến đánh giá và cơ hội học tập cần mức trách nhiệm cao hơn

Không phải mọi EdTech đều có cùng mức độ rủi ro. Một ứng dụng flashcard và một hệ thống AI quyết định tuyển sinh, chấm điểm hoặc theo dõi hành vi trong kỳ thi tạo ra những hậu quả hoàn toàn khác nhau.

Nguyên tắc quan trọng là trách nhiệm phải tăng theo mức độ tác động của quyết định.

Một hệ thống càng có khả năng ảnh hưởng đến quyền tiếp cận giáo dục, kết quả đánh giá hoặc tương lai học tập của một cá nhân thì nhà cung cấp càng cần kiểm soát chặt:

·         Chất lượng và nguồn gốc dữ liệu

·         Độ chính xác và sai số

·         Nguy cơ thiên lệch

·         Khả năng truy vết quyết định

·         Giám sát của con người

·         Cơ chế phản đối hoặc xem xét lại kết quả

·         Theo dõi hiệu suất sau triển khai

Cách tiếp cận dựa trên rủi ro này cũng xuất hiện trong EU AI Act. Các trường hợp AI trong giáo dục như xác định quyền tiếp cận hoặc tuyển sinh, đánh giá kết quả học tập, xác định mức giáo dục phù hợp và một số hoạt động giám sát trong kỳ thi nằm trong nhóm trường hợp có thể được phân loại là high-risk theo Annex III.

Tại thời điểm tháng 8 năm 2026, cần phân biệt giữa việc một loại ứng dụng đã được luật xác định trong kiến trúc rủi ro với thời điểm toàn bộ nghĩa vụ tương ứng bắt đầu được áp dụng. Theo thông tin cập nhật của Ủy ban châu Âu, các quy định đối với hệ thống high-risk thuộc những lĩnh vực trong Annex III, bao gồm giáo dục, dự kiến áp dụng từ ngày 2 tháng 12 năm 2027 sau thay đổi lịch thực thi.

Đây cũng cho thấy không nên đồng nhất “trách nhiệm của nhà cung cấp” với một danh sách nghĩa vụ pháp lý duy nhất. Nghĩa vụ bắt buộc phụ thuộc quốc gia, loại người dùng, loại dữ liệu, chức năng của sản phẩm và vai trò pháp lý của từng bên. Nhưng ngay cả khi một yêu cầu pháp luật cụ thể chưa áp dụng, mức độ tác động của sản phẩm vẫn là căn cứ hợp lý để xác định mức kiểm soát cần thiết.

Trách nhiệm phải tiếp tục sau khi sản phẩm được triển khai

Một sản phẩm vượt qua kiểm thử trước khi phát hành vẫn có thể phát sinh vấn đề khi được sử dụng ở quy mô lớn, trong nhóm người học mới hoặc sau khi mô hình, dữ liệu hay chính sách sản phẩm thay đổi.

Do đó, trách nhiệm không kết thúc khi nhà trường ký hợp đồng hoặc người học tạo tài khoản.

Nhà cung cấp cần duy trì một vòng phản hồi gồm giám sát, phát hiện, điều tra và khắc phục. Khi một tính năng gây ra kết quả không mong muốn, câu hỏi không chỉ là “hệ thống có lỗi kỹ thuật hay không”, mà còn là “người dùng có chịu tác động bất lợi hay không” và “cơ chế khắc phục có đủ hiệu quả hay không”.

Một hệ thống trách nhiệm đầy đủ cần xác định rõ:

·         Ai chịu trách nhiệm tiếp nhận sự cố

·         Mức độ sự cố nào cần ưu tiên xử lý

·         Khi nào phải thông báo cho khách hàng hoặc người dùng

·         Khi nào phải tạm ngừng một tính năng

·         Dữ liệu và log nào cần giữ để điều tra

·         Cách sửa kết quả sai hoặc hỗ trợ người bị ảnh hưởng

·         Cách kiểm tra lại sản phẩm sau thay đổi

Đối với AI, giám sát sau triển khai đặc biệt quan trọng vì hành vi của hệ thống có thể thay đổi khi dữ liệu đầu vào, nhóm người dùng hoặc phiên bản mô hình thay đổi. UNICEF hiện đặt oversight, compliance và accountability trong nhóm yêu cầu cơ bản của AI lấy trẻ em làm trung tâm, cho thấy trách nhiệm cần được tổ chức thành một quá trình quản trị liên tục chứ không phải một lần đánh giá ban đầu.

Nhà cung cấp vì thế không thể chuyển toàn bộ rủi ro cho trường học bằng điều khoản sử dụng. Nhà trường và giáo viên có trách nhiệm trong triển khai, nhưng nhà cung cấp vẫn kiểm soát những yếu tố mà bên sử dụng không thể tự sửa: kiến trúc dữ liệu, thuật toán, cấu hình mặc định, bảo mật, cách hệ thống tạo kết quả và cơ chế cập nhật.

Trách nhiệm nhà cung cấp công nghệ giáo dục có thể được hiểu bằng một nguyên tắc chung: quyền kiểm soát công nghệ càng lớn và hậu quả đối với người học càng đáng kể thì nghĩa vụ bảo vệ người dùng càng cao.

Một nhà cung cấp có trách nhiệm không chỉ hỏi sản phẩm có hoạt động hay không. Họ phải kiểm tra dữ liệu có thực sự cần thiết không, trẻ em có được bảo vệ không, thuật toán có tạo bất lợi không, người dùng có hiểu kết quả không, bằng chứng có đủ để chứng minh tuyên bố giáo dục không và người bị ảnh hưởng có con đường khiếu nại hoặc khắc phục hay không.

Các chuẩn mực quốc tế hiện nay ngày càng hội tụ quanh những yếu tố này: privacy và safety by design, minh bạch, công bằng, bằng chứng về giá trị giáo dục, human oversight và accountability. Tuy nhiên, trách nhiệm pháp lý cụ thể vẫn phải được xác định theo khu vực pháp lý và trường hợp sử dụng thực tế; một nguyên tắc đạo đức hoặc framework quốc tế không tự động thay thế luật áp dụng tại từng quốc gia.