Gwałtowne rozpowszechnienie rozwiązań związanych z AI oraz coraz częstsze pojawianie się robotów w codziennym życiu wskazuje na potrzebę interakcji pomiędzy robotami i najmłodszymi (CRI – Child robot interaction) od wczesnego dzieciństwa. Wobec dynamicznych zmian i tego jak krytycznego są aktualnie kompetencje związane z ICT oraz sztuczną inteligencją wykorzystanie nowych narzędzi w procesie nauczanie jest niezbędne. Computer-assisted learning (CAL), zgodnie z licznymi opracowaniami naukowymi, pozytywnie wpływa na poziom zaangażowania uczniów na lekcjach. Jednocześnie w wielu państwach system edukacji wciąż nie potrafi w pełni wykorzystać możliwości płynących z powszechnego dostępu do urządzeń elektronicznych, a wprowadzenie sztucznej inteligencji, choć powinno wiązać się z wieloma pozytywnymi skutkami, budzi wiele kontrowersji nie tylko wśród nauczycieli.

Edukacja wobec rozwoju nowych technologii

Coraz częściej w procesie edukacji angażowane są roboty i sztuczna inteligencja, jednakże dostępne badania pokazują, że o ile uczniowie chętnie korzystają z innowacyjnych rozwiązań, to nauczyciele nie są do takich praktyk przekonani, czego przykładem jest sceptyczna ocena możliwości zastosowania humanoidalnego robota Nao [1]. Przede wszystkim nauczyciele preferują, aby roboty były pod ich pełną kontrolą i pełniły określone funkcje w klasie. Często jednak poziom wiedzy i nastawienie do rozwoju technologicznego, ma znaczenie dla sposobu oceny roli robotów w trakcie zajęć lekcyjnych [2].

Z analizy wypowiedzi nauczycieli wynika, że mają oni ograniczone zaufanie do możliwości maszyny i woleliby, aby pełniła ona funkcję, kogoś w rodzaju „kumpla” w klasie. Z kolei dzieci podchodziły dużo śmielej do kontaktów z humanoidami, żywo reagując na wszelkie zachowania typowo ludzkie. Oczekiwały one, aby robot wyrażał emocje w sposób adekwatny do sytuacji, co w praktyce może być ograniczone, przynajmniej w przypadku dostępnych obecnie modeli. Przykładowo, w ocenie wielu uczniów głos robota brzmiał nienaturalnie i nie dostosowywał on tonu oraz brzmienia do kontekstu rozmowy, co uznano za niedoskonałość interakcji z nim. Mimo to dzieci bez problemu akceptowały ograniczenia możliwości robotów i dostrzegały ich potencjał jako nauczycieli [3].

Początek trzeciej dekady XXI wieku przyniósł światu intensyfikację czwartej rewolucji przemysłowej. Gwałtowny rozwój sztucznej inteligencji, a w szczególności wielkoskalowych modeli językowych (Chat GPT, Genai, Jasper), czy modeli generatywnych (Midjourney, Artbreeder, itd.) przedefiniował zarówno zakres oczekiwanych na rynku pracy kompetencji jak i założenia systemu edukacji. Teraz uczeń mając dostęp do komputera, tabletu albo telefonu jest w stanie nie tylko znaleźć odpowiedź na większość pytań faktograficznych, ale również może generować treści artykułów, rozprawek czy innych prac pisemnego (Rys. 1). Pewien opór sztucznej inteligencji stawiają jeszcze nauki ścisłe (Rys. 2), gdzie ChatGPT jest w stanie naprowadzić ucznia/studenta na dobry tok rozumowania, lecz rzadko potrafi bezbłędnie rozwiązać całe zadanie. Z drugiej strony tak znaczące uproszczenie procesu pozyskiwania informacji w pośredni sposób upośledza przyrost wiedzy u ucznia, który nie tylko nie musi dokonać wyboru odpowiedniego źródła, umiejętnie wyszukać w nim odpowiedni, itd., ale nie pozyskuje również żadnych dodatkowych informacji w trakcie swoich poszukiwań, na które musiałby się natknąć postępując w tradycyjny sposób. Szereg takich i podobnych zjawisk prowadzi do tak zwanej „inflacji ocen” [4] – łatwy dostęp do źródeł, zaawansowanych narzędzi (w tym takich opartych o sztuczną inteligencję) upraszcza zdobywania wysokich ocen, przy poziomie wiedzy, który nie ulega zasadniczemu podniesieniu. Jest to bez wątpienia jedna z pułapek, na które należy zwrócić szczególną uwagę w trakcie wprowadzania rozwiązań AI do edukacji najmłodszych.

 

 

 

Zalety stosowania AI i robotów w edukacji

Jedną z głównych zalet wykorzystania nowoczesnych rozwiązań jest zwiększenie motywacji i zaangażowania uczniów. Praca z robotami jest dla nich fascynująca, co sprawia, że chętniej uczestniczą w zajęciach i są bardziej skoncentrowani na nauce. Humanoidy posiadają zdolność do dostarczania informacji zwrotnych w czasie rzeczywistym, a badania sugerują, że ich fizyczny kształt znacznie zwiększa zaangażowanie uczniów [5] . Ten osobisty kontakt często prowadzi do nawiązania silnej relacji z uczniem, co może pomóc w rozwiązaniu problemów związanych z nieśmiałością, która czasem pojawia się w relacji z nauczycielem ludzkim [6]. Robot nigdy się nie nudzi, nie traci zapału ani nie okazuje zniecierpliwienia, niezależnie od ilości popełnionych błędów przez ucznia.

Jednocześnie nawet proste modele AI są w stanie udzielać uczniom informacji o szczegółach zajęć, kryteriach oceniania, terminach oddawania zadań, czy udzielać rad lub zapewniać przykładowe pytania i odpowiedzi do danego tematu zajęć [7,8,9]. Ponadto modele sztucznej inteligencji mogą również stanowić wsparcie dla nauczycieli w zakresie: wywiązywania się z zadań administracyjnych [10], oceny postępów podopiecznych [11], udzielania odpowiedzi na proste, często zadawane przez uczniów pytania [12]. Porównanie różnych aspektów wykorzystania chatbotów w edukacji zostało przedstawione na Rys. 3. Charakterystyka chatbotów i znaczącej części rozwiązań AI dobrze współgra z wymaganiami procesu nauczania. Polska Agencja Rozwoju Przedsiębiorczości również wskazuje szereg zalet wynikających z zastosowania sztucznej inteligencji w edukacji [13]. Zgodnie z opublikowanymi przez PARP materiałami zastosowanie SI pozwoli na personalizację i indywidualizację procesu nauczania dając jednocześnie uczniom przestrzeń do popełniania błędów. Dodatkowo wprowadzenie takich narzędzi ma zobiektywizować i ułatwić ocenianie, co powinno się przełożyć na wyższą efektywność całego procesu kształcenia. Według wspomnianego opracowania rozwiązania AI umożliwiają także sprawniejsze zarządzanie wiedzą, przewidywanie trendów i planowanie oraz poprawę organizacji pracy w jednostkach edukacyjnych (w tym automatyzację oceny pracy nauczyciela) – Tab. 1.

 

Wyzwania związane z wprowadzaniem robotów i AI do edukacji najmłodszych

Wprowadzenie robotów i narzędzi opartych o sztuczną inteligencję w nauczaniu najmłodszych wiąże się jednak z szeregiem problemów i wyzwań. Przykładowo, może się to spotkać z oporem bardziej konserwatywnej części społeczeństwa oraz niektórych nauczycieli i dyrektorów szkół, szczególnie w krajach takich jak Polska, gdzie wciąż nie są wykorzystywane wszystkie zalety wynikające z dostępu do urządzeń elektronicznych. Ponadto dodatkową niejednoznaczność przy wprowadzaniu rozwiązań AI może stanowić ekonomiczna analiza zysków płynących z zastosowania takich rozwiązań [7]. Kolejnym ważnym aspektem, który wymaga głębszej analizy jest kwestia istnienia problemów etycznych związanych z wykorzystaniem SI w edukacji. PARP w swoim opracowaniu dotyczącym tej tematyki [14] wskazuje na ryzyko znacznego uzależnienia procesu kształcenia od technologii i braku zrozumienia w oparciu o jakie przesłanki podejmowane są decyzje.

Kolejnym problemem o etyczno-społecznym charakterze jest kwestia bezpieczeństwa i prywatności danych, które musiałyby być przechowywane przez modeli wykorzystywane do dalszego doskonalenia modelu (co mogłoby wiązać się z dodatkowym ryzykiem ich wycieku, naruszenia własności intelektualnej etc.). Dlatego niezbędne jest zapewnienia jasnych i przejrzystych zasad wykorzystywania wrażliwych danych w ramach rozwiązań AI stosowanych w edukacji. Niektóre popularne zabawki robotyczne znajdujące się w wielu domach, budzą takie obawy, w tym lalka lalka Hello Barbie od Mattel i lalka My Friend Cayla od Genesis. Początkowo roboty te zostały zaprojektowane, aby odpowiadać na pytania dzieci. Jednak funkcjonalność ta niesie ryzyko przesyłania osobistych danych przez domową sieć do firm lub innych instytucji. W 2017 roku lalka My Friend Cayla została uznana za nielegalne urządzenie podsłuchujące i konsekwentnnie zakazana w Niemczech. W przypadku Hello Barbie, zebrane dane były udostępniane firmie ToyTalk, która analizowała je w celu doskonalenia technologii rozpoznawania i przetwarzania mowy. Niemniej jednak, wielu rodziców nadal żywi obawy co do sposobu wykorzystania tych informacji. Brak jednoznacznych regulacji dotyczących zbierania, przechowywania i wykorzystywania danych pozostawia luki w ochronie prywatności. Stało się tak w przypadku Cloud Pets, gdzie słaba ochrona danych pozwoliła hakerom na dostęp do 2 milionów nagrań rozmów między dziećmi a ich rodzicami.

Podobnie szereg kontrowersji budzi możliwość nieświadomego wprowadzenia do szkół modeli, które mogą być obarczone pewnymi błędami, między innymi  uprzedzeniami, wynikającymi na przykład ze złego doboru danych uczących lub błędów w procesie trenowania modelu. Ponadto w niektórych pracach naukowych wskazuje się na potrzebę tworzenia rozwiązań AI, szczególnie chatbotów o spójnej osobowości w celu uzyskania zaufania użytkowników [13]. Szereg badań naukowych wskazuje na fakt, że brak rozwiązania problemów o etycznym i społecznym charakterze wiążących się z wykorzystaniem sztucznej inteligencji może negatywnie wpływać na chęć korzystania z tego typu rozwiązań przez część użytkowników [12, 15, 16].

 

Tab. 1 Zalety i wady wykorzystania SI w edukacji (na podstawie: [14])

Perspektywa	Zalety	Wady
uczniowie	indywidualizacja nauczania, personalizacja materiałów edukacyjnych, większa dostępność i elastyczność edukacji (większa możliwość samokształcenia), efektywniejsza nauka, przestrzeń do popełniania błędów bez oceniania przez innych, łatwiejsze śledzenie wyników i osiągnięć	brak interakcji człowiek – człowiek, nadmierne uzależnienie od technologii, na tym etapie rozwoju SI, konieczność kontroli generowanych treści (dotyczy treści generowanych przez generatory tekstu), zagrożenie bezpieczeństwa danych
nauczyciele	optymalizacja procesu nauczania, skupienie się na tym co ważne w nauczaniu, indywidualne wsparcie dla osób uczących się, automatyzacja oceny, rozwój zawodowy	zmiana roli nauczyciela (przekształcenie nauczyciela w opiekuna technologicznego), niedostateczna znajomość technologii, ograniczenia finansowe (ograniczone budżety na infrastrukturę, szkolenia oraz zakup odpowiednich narzędzi), konieczność kontroli i moderowania korzystania z systemów AI
organizacje, władze lokalne i krajowe	sprawniejsze zarządzanie wiedzą, przewidywanie trendów i planowanie, poprawa organizacji pracy w jednostkach edukacyjnych, w tym automatyzacja oceny pracy nauczyciela	bezpieczeństwo i prywatność: gromadzenie danych w systemach SI wiąże się z ryzykiem naruszenia prywatności i bezpieczeństwa tych danych, algorytmy SI, jeśli nie zostaną odpowiednio  skalibrowane, mogą działać na podstawie danych obarczonych  uprzedzeniami. To może prowadzić do niesprawiedliwości i dyskryminacji, organizacje muszą zainwestować czas i zasoby w szkolenia dla nauczycieli i personelu administracyjnego, aby umożliwić im efektywne korzystanie z technologii SI, wprowadzenie SI do edukacji może utrudnić standaryzację ocen i testów. Oznacza to, że różne systemy edukacyjne lub placówki edukacyjne mogą używać różnych narzędzi i kryteriów oceniania, co może utrudnić wyrównywanie wyników i ocenianie jakości edukacji na poziomie krajowym lub międzynarodowym

 

W kontekście wykorzystania robotów w procesie nauki warto zwrócić uwagę na budzące obawy aspekty, które mogą mieć negatywny wpływ na uczniów. Przede wszystkim istnieje ryzyko, że nadmierne poleganie na robotach może ograniczyć interakcje międzyludzkie, co może prowadzić do zubożenia umiejętności społecznych i empatii u uczniów. Zachowania takie mogą też skutkować nadużyciami wobec robotów, co może kształtować negatywne wzorce zachowań. Naukowcy w odpowiedzi na te zagrożenia zaprezentowali zabawkę Shelly (film), aby zniechęcić dzieci do niepożądanych akcji. Żółwica delikatnie świeci się i prezentuje taneczne ruchy, kiedy jest łagodnie głaskana. Jednakże, w przypadku zbyt silnego uderzenia, robot instynktownie sięga do swojej skorupy i na chwilę wchodzi w stan uśpienia. Twórcy oczekują, że podobne rozwiązania mogą poprawić interakcje dziecko-robot w różnych kontekstach społecznych [17, 18].

Wiele osób obawia się potencjalnych problemów, jakie wprowadzenie robotów do edukacji może stwarzać, w szczególności w zakresie psychiki najmłodszych. Istnieje obawa, że dzieci mogą nawiązać silną więź z robotami i być zaniepokojone w przypadku usterek, konieczności wymiany lub ich pozostawienia. Związane z tym niebezpieczeństwa dotyczą również tego, że dzieci mogą wytworzyć preferencję dla interakcji z robotem zamiast z rodzicami lub rówieśnikami, co w rezultacie może prowadzić do ich społecznego odosobnienia. Jednakże ryzyko związane z wykorzystaniem tej technologii dotyczy także opiekunów, którzy mogą zacząć polegać zbyt mocno na robotach, zaniedbując w ten sposób należytą opiekę i wsparcie [19].

 

Przykłady zastosowania robotów i AI w nauczaniu najmłodszych

Na dzień dzisiejszy roboty i AI nie mają pełnoprawnej funkcji w szkole, ponieważ są jeszcze ograniczone w możliwościach. Mają status raczej “zabawki edukacyjnej”. Choć jak wskazuje PARP, jednym z ciekawych zastosowań AI w edukacji mogą być generatory głosu wykorzystywane do tworzenia treści takich jak audiobooki, interaktywne lekcje czy materiały pomagające uczniom z dysleksją, wadami wzroku i trudnościami w czytaniu.

W przypadku państw o bardzo wysokim poziomie edukacji rozpoczęto już proces wdrażania rozwiązań opartych o SI do szkół i uczelni. Przykładem takiego działania może być Singapur, który w ramach Singapore’s National Artificial Intelligence Strategy i EdTech Masterplan 2030 rozpoczął implementację narzędzi AI w swoim systemie oświaty. Tak zwany Adaptive Learning System ma zapewnić uczniom zindywidualizowane wskazówki w trakcie nauki bazując na odpowiedziach udzielanych przez uczniów i jakości wykonania przez nich zadanych ćwiczeń. W Singapurskich szkołach od grudnia 2023 wykorzystywany jest równie Language Feedback Assistant for English i Short Answer Feedback Assistant umożliwiający ocenianie krótkich prac pisemnych i przekazywanie najmłodszym informacji zwrotnej na temat postępów w nauce języka angielskiego [20].

Obecnie coraz częściej wykorzystuje się różnorodne rodzaje robotów. Od prostych urządzeń z podstawowymi procesorami, takich jak roboty Boe-Bot, przez zaawansowane zestawy narzędzi do programowania, jak na przykład Mindstorms, aż po humanoidy – roboty przypominające ludzi. Testy humanoidów na szerszą skalę przeprowadzane są już w klasach szkół w Japonii i Korei Południowej, ale coraz częściej spotyka się je także w innych częściach świata.

Boe-Bot i Mindstorms cieszą się ogromną popularnością wśród szkół, jako podstawowe narzędzia do nauki robotyki i informatyki. Te zestawy pozwalają uczniom na zgłębianie złożonych dziedzin inżynieryjnych. Natomiast roboty o kształcie humanoidalnym, takie jak Nao, Pepper, Tiro, IROBI czy Robovie, często wykorzystywane są do nauki języków obcych. Ich ludzkie podobieństwo sprzyja interakcji z uczniami i stwarza przyjazne środowisko do nauki. Przykładowo, grupa badaczy z Uniwersytetu w Lizbonie skonfigurowała programowalnego humanoida, który wspomaga dzieci w doskonaleniu swojego pisma poprzez korygowanie popełnianych błędów. Roboty mogą być wykorzystywane w niemal każdym obszarze edukacji w tym także w pracy z uczniami ze specjalnymi potrzebami. Mogą też stanowić atrakcyjną formę zabawy, jednocześnie posiadając walory edukacyjne poprzez angażowanie dzieci w różnorodne aktywności ruchowe i pracę zespołową. Dzięki nim rozwijane są nie tylko umiejętności motoryczne i koordynacja wzrokowo-ruchowa, ale również zdolności komunikacyjne, argumentacyjne oraz kultura wypowiedzi.

Dość interesującą i coraz częściej stosowaną techniką wykorzystania robotów jest telepresence [21]. Metoda ta pozwala nauczycielowi zdalnie połączyć się z klasą poprzez robota. Jest to szczególnie przydatne w kontekście nauczania języków obcych. Nauczyciel może aktywnie uczestniczyć w lekcjach, będąc “obecnym” dzięki mechanizmowi wyświetlania, często osadzonemu w tułowiu robota.

 

Znaczenie kompetencji związanych ze sztuczną inteligencją

Dynamiczny rozwój wysoce zaawansowanych modeli AI w ciągu ostatnich kilku lat ma znaczący wpływ na kompetencje, które są wymagane zarówno w codziennym życiu jak i na rynku pracy. Choć zgodnie z danymi opublikowanymi przez Microsoft umiejętność kierowanie odpowiednich zapytań do modeli SI jest rzadziej wskazywane przez czołowych przedsiębiorców niż kreatywne podejście i zdolność krytycznego/analitycznego myślenia, to aż 21% liderów biznesu wskazało, że oczekuje kompetencji związanych z interakcją z systemami AI od swoich pracowników – Rys. 4. Dodatkowo specjaliści w dziedzinie sztucznej inteligencji znajdują zatrudnienie nie tylko w sektorze IT, ale również w przemyśle, ochronie zdrowia i finansach (częściej w krajach europejskich niż w Polsce). Co ciekawe drugim najczęściej zatrudniającą specjalistów AI (po sektorze IT) branżą jest edukacja (12,6% w Polsce i 24,5% w Europie) – Rys. 5. Wskazuje to na dynamiczne wprowadzanie tego typu rozwiązań do szkół i wzrost ich znaczenia w kontekście kształcenia kolejnych pokoleń.

Ciekawą i przyszłościową koncepcją jest również wykorzystanie zebranych przez AI danych na temat postępów w nauce poszczególnych osób i ich późniejsze zestawienie z zakresem kompetencji nabytych przez badane jednostkę (w kontekście dalszej nauki, pracy zawodowej, codziennego życia). Wyniki takich analiz mogłyby posłużyć do wskazania na szczególnie optymalne wzorce podejścia do przyswajania wiedzy. W dłuższej perspektywie pozwoliłoby to na statystyczne i obiektywne ustalenie wpływu np.: nauki pamięciowej czy systematyczności pracy na efekty kształcenia, co hipotetycznie przełożyłoby się na wprowadzenie ulepszonych schematów postępowania w procesie edukacji.

Podsumowanie

Biorąc pod uwagę naturalną ciekawość dzieci, istnienie dużego zapotrzebowania na kompetencje związane technologiami informatycznymi, w tym sztuczną inteligencją oraz dynamiczny rozwój technologii w ostatnim dwudziestoleciu wprowadzenie rozwiązań związanych z Child robot interaction i Computer-assisted learning do procesu nauczania jest nieuniknione i prawdopodobnie niezbędne. O znaczeniu tych obszarów może świadczyć choćby podsumowanie wypowiedzi ChatGPT na temat wykorzystanie robotów i metod sztucznej inteligencji w nauce osób najmłodszych:

Połączenie tych dwóch obszarów, czyli wykorzystanie zarówno robotów, jak i sztucznej inteligencji w procesie nauki osób najmłodszych, może przynieść wiele korzyści. Może to pomóc w tworzeniu bardziej angażujących, interaktywnych i efektywnych doświadczeń edukacyjnych, które dostosowują się do potrzeb i zainteresowań każdego dziecka. Jednakże ważne jest również zachowanie równowagi i nadzoru nad tymi technologiami, aby zapewnić bezpieczeństwo i odpowiednie wykorzystanie w kontekście edukacji dzieci.

Jednocześnie przy szybkim wprowadzaniu tego typu rozwiązań do systemu oświaty warto zwrócić uwagę na kilka kwestii, które mogą odbić się na jakości usług edukacyjnych oraz komforcie dzieci i nauczycieli. Wśród nich można wymienić ryzyko wystąpienia tzw. inflacji ocen, problemy związane z prywatnością danych w modelach AI, ryzyko znacznego uzależnienia procesu kształcenia od technologii i braku zrozumienia w oparciu o jakie przesłanki podejmowane są decyzje czy kwestia odpowiedzialności za podejmowane decyzje.

Jednak współcześnie kluczowym aspektem jest możliwość rozwijania umiejętności technologicznych. Dzięki wykorzystaniu robotów i AI uczniowie zdobywają praktyczne doświadczenie w obszarze technologii, co może być przydatne w przyszłej karierze zawodowej, zwłaszcza że pracodawcy coraz częściej poszukują osób z wiedzą techniczną. Robotyka i informatyka stymuluje nie tylko logiczne myślenie oraz umiejętność rozwiązywania problemów, ale także kreatywność i innowacyjność uczniów, gdyż wymaga ona myślenie poza schematami i poszukiwania nowych rozwiązań. Warto również podkreślić, że praca z robotami sprzyja rozwijaniu umiejętności interpersonalnych i komunikacji w grupie. Dzieci uczą się słuchać innych, wyrażać swoje pomysły i rozwiązywać konflikty, co jest niezwykle ważne w życiu codziennym [22].

 

Bibliografia:

[1] Ahmad, Muneeb & Mubin, Omar & Orlando, Joanne. (2016). Understanding Behaviours and Roles for Social and Adaptive Robots In Education: Teacher’s Perspective. 297-304. 10.1145/2974804.2974829.

[2] Westlund, Jacqueline & Gordon, Goren & Spaulding, Samuel & Lee, Jin & Plummer, Luke & Martinez, Marayna & Breazeal, Cynthia. (2016). Lessons from teachers on performing HRI studies with young children in schools. 383-390. 10.1109/HRI.2016.7451776.

[3] Serholt, Sofia & Barendregt, Wolmet & Vasalou, Asimina & Alves-Oliveira, Patrícia & Jones, Aidan & Petisca, Sofia & Paiva, Ana. (2017). The case of classroom robots: teachers’ deliberations on the ethical tensions. AI & SOCIETY. 32. 613-631. 10.1007/s00146-016-0667-2.

[4] Rutkowska, J., Inflacja w edukacji – Nauczycielskim okiem, Puls Ciechanowa, https://pulsciechanowa.pl/pl/638_felietony/14094_inflacja-w-edukacji—nauczycielskim-okiem.html

[5] Han, Jeong & Jo, Miheon & Jones, Vicki & Jo, Jun. (2008). Comparative Study on the Educational Use of Home Robots for Children. JIPS. 4. 159-168. 10.3745/JIPS.2008.4.4.159. 9

[6] Chen, Nian-Shing & Ko, Leong. (2010). An Online Synchronous Test for Professional Interpreters. Educational Technology and Society. 13.

[7] Okonkwo, C. W. & Ade-Ibijola, A. (2021) Chatbots applications in education: A systematic review, Computers and Education: Artificial Intelligence, Volume 2, 100033, ISSN 2666-920X, https://doi.org/10.1016/j.caeai.2021.100033.

[8] Benotti,  L., Martinez, M. C. & Schapachnik, F. (2017) A tool for introducing computer science with automatic formative assessment. IEEE transactions on learning technologies, 11.2: 179-192.

[9] Cunningham-Nelson, S., et al. A review of chatbots in education: practical steps forward. In: 30th annual conference for the australasian association for engineering education (AAEE 2019): educators becoming agents of change: innovate, integrate, motivate. Engineers Australia, 2019. p. 299-306.

[10] Rohrig, C. & Heß, D. (2019). Omniman: A mobile assistive robot for intralogistics applications. Engineering Letters, 27(4).

[11] Durall, E. & Kapros, E. (2020). Co-design for a competency self-assessment chatbot and survey in science education. International conference on human-computer interaction. Springer. pp. 13-24

[12] Sinha, S., Basak, S., Dey, Y. & Mondal, A. (2020). An educational chatbot for answering queries. Emerging technology in modelling and graphics. Springer. pp. 55-60

[13] Huang, M., Zhu, X. & Gao, J. (2020). Challenges in Building Intelligent Open-domain Dialog Systems. ACM Transactions on Information Systems. 38. 1-32. 10.1145/3383123.

[14] Polska Agencja Rozwoju Przedsiębiorczości (2023), Rynek pracy, edukacja, kompetencje, Wykorzystanie sztucznej inteligencji w edukacji, https://www.parp.gov.pl/storage/publications/pdf/Wykorzystanie-sztucznej-inteligencji-w-edukacji.pdf

[15] Silva, A., Gomes, M., André da Costa, C., Righi, R., Barbosa, J., Pessin, G., Doncker, G. & Federizzi,  G. (2020). Intelligent Personal Assistants: A Systematic Literature Review. Expert Systems with Applications. 147. 113193. 10.1016/j.eswa.2020.113193.

[16] Shumanov,  M., Johnson, L. (2020). Making conversations with chatbots more personalized. Computers in Human Behavior. 117. 106627.10.1016/j.chb.2020.106627.

[17] Ku, H., J. J. Choi, S. Lee, S. Jang, and W. Do. 2018. Shelly, a tortoise-like robot for one-to-many interaction with children. Proceedings of the 2018 ACM/IEEE International Conference on Human Robot Interaction, pp. 353–354.

[18] Brscic, D., H. Kidokoro, Y. Suehiro, and T. Kanda. 2015. Escaping from children’s abuse of social robots. Proceedings of the 2015 ACM/IEEE International Conference on Human Robot Interaction, pp. 59–66.

[19] Borenstein, J., and Y. Pearson. 2013. Companion robots and the emotional development of children. Law, Innovation and Technology 5:172–189.

[20] A Singapore Government Agency (2023), Artificial intelligence in education, Learn about the use of artificial intelligence tools to support your child’s learning. https://www.moe.gov.sg/education-in-sg/educational-technology-journey/edtech-masterplan/artificial-intelligence-in-education

[21] Johannessen, Lars E.F., Rasmussenand, Erik Børve, Halda, Marit. (2023). Student at a distance: exploring the potential and prerequisites of using telepresence robots in schools https://www.tandfonline.com/doi/epdf/10.1080/03054985.2022.2034610?needAccess=true

[22] Toh, Lai & Causo, Albert & Tzuo, Pei-Wen & Chen, I-Ming & Yeo, Song. (2016). A Review on the Use of Robots in Education and Young Children. Educational Technology & Society. 19. 148–163.