{"id":5455,"date":"2024-05-22T20:24:48","date_gmt":"2024-05-22T20:24:48","guid":{"rendered":"http:\/\/architeles.eu\/ethics\/?p=5455"},"modified":"2024-06-10T09:25:49","modified_gmt":"2024-06-10T09:25:49","slug":"github-copilot-gdy-sugestie-systemu-sa-silniejsze-od-naszych-decyzji-ale-ulatwia-to-nam-prace-zjawisko-nudge-technology-oraz-slepa-wiara-w-tresci-generowane-wystepowania-zjawiska-z-perspektywy","status":"publish","type":"post","link":"https:\/\/architeles.eu\/ethics\/index.php\/2024\/05\/22\/github-copilot-gdy-sugestie-systemu-sa-silniejsze-od-naszych-decyzji-ale-ulatwia-to-nam-prace-zjawisko-nudge-technology-oraz-slepa-wiara-w-tresci-generowane-wystepowania-zjawiska-z-perspektywy\/","title":{"rendered":"(Github) COPILOT &#8211; gdy sugestie systemu s\u0105 silniejsze od naszych decyzji, ale u\u0142atwia to nam prac\u0119. Zjawisko nudge technology oraz \u015blepa wiara w tre\u015bci generowane. Wyst\u0119powania zjawiska z perspektywy zawodowej."},"content":{"rendered":"<p><b>Wprowadzenie GitHub Copilot, rewolucyjnego narz\u0119dzia wspomagaj\u0105cego programist\u00f3w, zmusza nas do ponownego rozwa\u017cenia natury naszych decyzji w procesie tworzenia kodu. Jednak\u017ce, gdy sugestie systemu staj\u0105 si\u0119 dominuj\u0105ce, stajemy wobec zjawiska znanego jako &#8222;nudge technology&#8221; \u2013 subtelne, ale pot\u0119\u017cne sk\u0142onienia, kt\u00f3re kszta\u0142tuj\u0105 nasze wybory. Czy \u015blepo ufamy generowanym tre\u015bciom? Jak to wp\u0142ywa na nasz\u0105 prac\u0119? Przyjrzyjmy si\u0119 temu zjawisku z perspektywy zawodowej, odkrywaj\u0105c zar\u00f3wno jego korzy\u015bci, jak i potencjalne wyzwania.<\/b><!--more--><\/p>\n<h1><span style=\"font-weight: 400;\">Czym jest Copilot<\/span><\/h1>\n<p><span style=\"font-weight: 400;\">GitHub Copilot to narz\u0119dzie wspomagaj\u0105ce kodowanie, kt\u00f3re wykorzystuje sztuczn\u0105 inteligencj\u0119 do generowania fragment\u00f3w kodu na podstawie kontekstu dostarczonego przez u\u017cytkownika. Dzi\u0119ki analizie milion\u00f3w linii kodu, Copilot jest w stanie sugerowa\u0107 ca\u0142e funkcje, klasy czy nawet pe\u0142ne rozwi\u0105zania problem\u00f3w programistycznych. To narz\u0119dzie jest szczeg\u00f3lnie przydatne w przyspieszaniu procesu tworzenia oprogramowania, redukuj\u0105c czas potrzebny na pisanie kodu oraz wyszukiwanie odpowiednich rozwi\u0105za\u0144.<\/span><\/p>\n<p><span style=\"font-weight: 400;\">Zosta\u0142o ono opracowane przez GitHub oraz OpenAI i pomaga u\u017cytkownikom zintegrowanych \u015brodowisk programistycznych (IDE) Visual Studio Code, Visual Studio, Neovim i JetBrains. Obecnie dost\u0119pne w ramach subskrypcji dla indywidualnych programist\u00f3w i firm, zosta\u0142o po raz pierwszy og\u0142oszone przez GitHub 29 czerwca 2021 r. i dzia\u0142a najlepiej w przypadku u\u017cytkownik\u00f3w pisz\u0105cych w j\u0119zykach Python, JavaScript, TypeScript, Ruby i Go. W marcu 2023 r. GitHub og\u0142osi\u0142 plany dotycz\u0105ce \u201eCopilot X\u201d, kt\u00f3ry obejmie chatbota opartego na GPT-4, a tak\u017ce obs\u0142ug\u0119 polece\u0144 g\u0142osowych w Copilocie.<\/span><\/p>\n<h1><span style=\"font-weight: 400;\">Co my\u015bli \u015brodowisko na temat Copilota?<\/span><\/h1>\n<p><span style=\"font-weight: 400;\">Wprowadzenie nowych narz\u0119dzi w dziedzinie technologii i programowania niemal zawsze wywo\u0142uje mieszane uczucia w\u015br\u00f3d specjalist\u00f3w. GitHub Copilot, asystent kodowania oparty na sztucznej inteligencji, nie jest wyj\u0105tkiem. Od momentu jego wprowadzenia, reakcje spo\u0142eczno\u015bci programistycznej oscyluj\u0105 mi\u0119dzy entuzjazmem a sceptycyzmem. Z jednej strony, Copilot obiecuje znaczne przyspieszenie procesu tworzenia kodu, co jest szczeg\u00f3lnie kusz\u0105ce w dynamicznie rozwijaj\u0105cej si\u0119 bran\u017cy IT. Z drugiej strony, pojawiaj\u0105 si\u0119 obawy dotycz\u0105ce jako\u015bci generowanego kodu, potencjalnego wp\u0142ywu na rynek pracy programist\u00f3w oraz etycznych aspekt\u00f3w korzystania z modeli opartych na danych zgromadzonych z publicznych repozytori\u00f3w. To w\u0142a\u015bnie te skrajne emocje i zr\u00f3\u017cnicowane opinie w \u015brodowisku programistycznym stanowi\u0105 fascynuj\u0105cy temat do analizy w kontek\u015bcie nowoczesnych narz\u0119dzi wspomagaj\u0105cych kodowanie.<\/span><\/p>\n<p><span style=\"font-weight: 400;\">Konkretnym przyk\u0142adem jest praca pt. <\/span><i><span style=\"font-weight: 400;\">AI in software programming: understanding emotional responses to GitHub Copilot. <\/span><\/i><span style=\"font-weight: 400;\">Autorzy pracy przeanalizowali ponad 100 000 wpis\u00f3w na X-sie dotycz\u0105cych Github Copilota i podzielili je wed\u0142ug emocji, kt\u00f3re najprawdopodobniej towarzyszy\u0142y tw\u00f3rcom wpis\u00f3w: Loss, Deterrence, Challenge, Scepticism, Achievement, Apathy. Wyja\u015bnienia powy\u017cszych emocji autorzy pracy zamie\u015bcili w swojej publikacji:<\/span><\/p>\n<p>&nbsp;<\/p>\n<figure id=\"attachment_5458\" aria-describedby=\"caption-attachment-5458\" style=\"width: 473px\" class=\"wp-caption alignnone\"><img loading=\"lazy\" decoding=\"async\" class=\"wp-image-5458\" src=\"https:\/\/architeles.eu\/ethics\/wp-content\/uploads\/2024\/05\/Screenshot-2024-05-22-at-22.04.50-300x219.png\" alt=\"\" width=\"473\" height=\"345\" srcset=\"https:\/\/architeles.eu\/ethics\/wp-content\/uploads\/2024\/05\/Screenshot-2024-05-22-at-22.04.50-300x219.png 300w, https:\/\/architeles.eu\/ethics\/wp-content\/uploads\/2024\/05\/Screenshot-2024-05-22-at-22.04.50-1024x749.png 1024w, https:\/\/architeles.eu\/ethics\/wp-content\/uploads\/2024\/05\/Screenshot-2024-05-22-at-22.04.50-768x562.png 768w, https:\/\/architeles.eu\/ethics\/wp-content\/uploads\/2024\/05\/Screenshot-2024-05-22-at-22.04.50.png 1198w\" sizes=\"auto, (max-width: 473px) 100vw, 473px\" \/><figcaption id=\"caption-attachment-5458\" class=\"wp-caption-text\">Wyja\u015bnienie poszczeg\u00f3lnych emocji X-owicz\u00f3w opisanych przez autor\u00f3w pracy<\/figcaption><\/figure>\n<p><span style=\"font-weight: 400;\">Wyniki bada\u0144 s\u0105 zaprezentowane poni\u017cej:<\/span><\/p>\n<figure id=\"attachment_5459\" aria-describedby=\"caption-attachment-5459\" style=\"width: 472px\" class=\"wp-caption alignnone\"><img loading=\"lazy\" decoding=\"async\" class=\"wp-image-5459\" src=\"https:\/\/architeles.eu\/ethics\/wp-content\/uploads\/2024\/05\/Screenshot-2024-05-22-at-22.07.02-300x251.png\" alt=\"\" width=\"472\" height=\"395\" srcset=\"https:\/\/architeles.eu\/ethics\/wp-content\/uploads\/2024\/05\/Screenshot-2024-05-22-at-22.07.02-300x251.png 300w, https:\/\/architeles.eu\/ethics\/wp-content\/uploads\/2024\/05\/Screenshot-2024-05-22-at-22.07.02-1024x858.png 1024w, https:\/\/architeles.eu\/ethics\/wp-content\/uploads\/2024\/05\/Screenshot-2024-05-22-at-22.07.02-768x644.png 768w, https:\/\/architeles.eu\/ethics\/wp-content\/uploads\/2024\/05\/Screenshot-2024-05-22-at-22.07.02.png 1236w\" sizes=\"auto, (max-width: 472px) 100vw, 472px\" \/><figcaption id=\"caption-attachment-5459\" class=\"wp-caption-text\">Wyniki bada\u0144<\/figcaption><\/figure>\n<p><span style=\"font-weight: 400;\">Z wynik\u00f3w tych mo\u017cna wywnioskowa\u0107, \u017ce emocje <\/span><i><span style=\"font-weight: 400;\">Challenge <\/span><\/i><span style=\"font-weight: 400;\">oraz <\/span><i><span style=\"font-weight: 400;\">Achievement<\/span><\/i><span style=\"font-weight: 400;\"> stanowi\u0105 ponad 50% przebadanych wpis\u00f3w, czyli emocje od neutralnych do pozytywne przewa\u017caj\u0105. Po\u015br\u00f3d negatywnych odczu\u0107 mo\u017cna zauwa\u017cy\u0107 cz\u0119ste w\u0105tpliwo\u015bci autor\u00f3w wpis\u00f3w odno\u015bnie praw autorskich do kodu, na kt\u00f3rym Copilot zosta\u0142 nauczony. Takie odczucia towarzyszy\u0142y emocjom <\/span><i><span style=\"font-weight: 400;\">Loss <\/span><\/i><span style=\"font-weight: 400;\">i <\/span><i><span style=\"font-weight: 400;\">Deterrence<\/span><\/i><span style=\"font-weight: 400;\">, kt\u00f3re stanowi\u0142y ponad 20% badanych wpis\u00f3w. Obawa o s\u0142ab\u0105 jako\u015b\u0107 kodu generowanego przez Copilota wyrazi\u0142o 9% wpis\u00f3w, w emocji okre\u015blonej jako <\/span><i><span style=\"font-weight: 400;\">Sceptism.\u00a0<\/span><\/i><\/p>\n<p><span style=\"font-weight: 400;\">Podsumowuj\u0105c, wi\u0119kszo\u015b\u0107 X-owicz\u00f3w wyra\u017ca pozytywne opinie na temat Copilota, natomiast w\u015br\u00f3d negatywnych opinii przewa\u017ca kwestia praw autorskich do kodu, na kt\u00f3rym Copilot si\u0119 nauczy\u0142, a nie kwestia zast\u0105pienia in\u017cynier\u00f3w oprogramowania przez sztuczn\u0105 inteligencj\u0119.<\/span><\/p>\n<h2><span style=\"font-weight: 400;\">Przyk\u0142ad z \u017cycia<\/span><\/h2>\n<p><span style=\"font-weight: 400;\">Na stronie scalablepath.com we wrze\u015bniu 2022 roku ukaza\u0142 si\u0119 ciekawy artyku\u0142 o u\u017cyciu Github Copilota z perspektywy Senior Fullstack Developera. Autor przetestowa\u0142 to narz\u0119dzie na kilku powszechnie u\u017cywanych technologiach, w tym React.js oraz PHP. Wykona\u0142 kilka test\u00f3w, kt\u00f3re polega\u0142y na napisaniu przez Copilota kilku fragment\u00f3w kodu w aplikacjach.<\/span><\/p>\n<p><span style=\"font-weight: 400;\">Wyniki tych test\u00f3w r\u00f3\u017cni\u0105 si\u0119 w zale\u017cno\u015bci od z\u0142o\u017cono\u015bci zadania oraz u\u017cytych technologii. Copilot lepiej poradzi\u0142 sobie z zadaniami w React.js ni\u017c w PHP. W wielu miejscach Copilot dok\u0142adnie odgad\u0142 intencje programisty (Na przyk\u0142ad przy obs\u0142ugiwaniu braku uprawnie\u0144 we frameworku PHP Laravel). W innych testach kod napisany przez Copilota wygl\u0105da\u0142 na \u201cprawie idealny\u201d, jednak zawiera\u0142 b\u0142\u0119dy lub nie do ko\u0144ca zrozumia\u0142 intencje programisty, co jednak cz\u0119sto nie by\u0142o widoczne na pierwszy rzut oka.<\/span><\/p>\n<p><span style=\"font-weight: 400;\">Autor artyku\u0142u napisa\u0142 r\u00f3wnie\u017c swoj\u0105 opini\u0119 na temat Copilota. Sugerowa\u0142 on, \u017ce Copilot jest \u015bwietnym narz\u0119dziem, kt\u00f3re przyspiesza prac\u0119 programisty i automatyzuje niekt\u00f3re \u017cmudne aspekty pracy z kodem. Ufanie na 100% sugestiom Copilota uwa\u017ca za proszenie si\u0119 o k\u0142opoty &#8211; system ten nie jest w stanie od pocz\u0105tku do ko\u0144ca napisa\u0107 dzia\u0142aj\u0105cego, odpornego na b\u0142\u0119dy kodu, lecz cz\u0119sto wymaga on licznych poprawek lub wybrania lepszych sugestii. Autor przestrzega r\u00f3wnie\u017c przed u\u017cywaniem Copilota przez niedo\u015bwiadczonych programist\u00f3w &#8211; sugeruje, \u017ce b\u0142\u0119dne sugestie podsuwane przez Copilota mog\u0105 zbyt mocno wej\u015b\u0107 w nawyk nowicjuszom i skutecznie utrudni\u0107 im rozw\u00f3j w tej dziedzinie.<\/span><\/p>\n<h1><span style=\"font-weight: 400;\">Nudge Technology<\/span><\/h1>\n<p><span style=\"font-weight: 400;\">Nudge technology, czyli technologia delikatnego popchni\u0119cia, odnosi si\u0119 do metod wp\u0142ywania na decyzje u\u017cytkownik\u00f3w w subtelny, cz\u0119sto niezauwa\u017calny spos\u00f3b. To poj\u0119cie wywodzi si\u0119 z teorii ekonomii behawioralnej, a dok\u0142adniej z pracy Richarda Thalera i Cass Sunsteina, kt\u00f3rzy w swojej ksi\u0105\u017cce &#8222;Nudge: Improving Decisions About Health, Wealth, and Happiness&#8221; opisali, jak drobne zmiany w otoczeniu mog\u0105 znacz\u0105co wp\u0142ywa\u0107 na wybory ludzi, bez odbierania im swobody decyzyjnej.<\/span><\/p>\n<p><span style=\"font-weight: 400;\">W kontek\u015bcie technologii, nudge mo\u017ce przybiera\u0107 r\u00f3\u017cne formy, takie jak interfejsy u\u017cytkownika, powiadomienia, rekomendacje czy algorytmy sugestii. Celem jest skierowanie u\u017cytkownik\u00f3w ku okre\u015blonym dzia\u0142aniom lub wyborom, kt\u00f3re s\u0105 uwa\u017cane za korzystne, zar\u00f3wno dla nich samych, jak i dla tw\u00f3rc\u00f3w technologii. W przypadku GitHub Copilot, nudge technology objawia si\u0119 poprzez sugestie kodu generowane w czasie rzeczywistym:<\/span><\/p>\n<ul>\n<li style=\"font-weight: 400;\"><span style=\"font-weight: 400;\">Sugestie kodu: Copilot oferuje konkretne fragmenty kodu, kt\u00f3re u\u017cytkownik mo\u017ce zaakceptowa\u0107 lub odrzuci\u0107. Te sugestie s\u0105 cz\u0119sto bardzo trafne i mog\u0105 znacz\u0105co przyspieszy\u0107 proces pisania kodu.<\/span><\/li>\n<li style=\"font-weight: 400;\"><span style=\"font-weight: 400;\">Poprawa b\u0142\u0119d\u00f3w: Copilot mo\u017ce sugerowa\u0107 poprawki do istniej\u0105cego kodu, wskazuj\u0105c na potencjalne b\u0142\u0119dy i oferuj\u0105c optymalne rozwi\u0105zania.<\/span><\/li>\n<li style=\"font-weight: 400;\"><span style=\"font-weight: 400;\">Przyk\u0142ady implementacji: Gdy u\u017cytkownik napotyka problem, Copilot mo\u017ce zaproponowa\u0107 gotowe rozwi\u0105zania oparte na szerokiej bazie kod\u00f3w, co mo\u017ce prowadzi\u0107 do szybszego rozwi\u0105zania problemu.<\/span><\/li>\n<\/ul>\n<p><span style=\"font-weight: 400;\">Przyjrzymy si\u0119 bli\u017cej zaletom i wadom nudge technology w kontek\u015bcie GitHub Copilot, analizuj\u0105c, jak te subtelne formy wp\u0142ywania mog\u0105 zar\u00f3wno wspiera\u0107, jak i ogranicza\u0107 prac\u0119 programist\u00f3w.<\/span><\/p>\n<p><span style=\"font-weight: 400;\">Zalety:<\/span><\/p>\n<ul>\n<li style=\"font-weight: 400;\"><span style=\"font-weight: 400;\">Efektywno\u015b\u0107 kodowania: GitHub Copilot mo\u017ce znacznie przyspieszy\u0107 proces tworzenia oprogramowania poprzez szybkie generowanie fragment\u00f3w kodu na podstawie kontekstu.<\/span><\/li>\n<li style=\"font-weight: 400;\"><span style=\"font-weight: 400;\">Zwi\u0119kszenie produktywno\u015bci: Dzi\u0119ki szybkiemu dost\u0119powi do gotowych fragment\u00f3w kodu, programi\u015bci mog\u0105 skupi\u0107 si\u0119 na rozwi\u0105zywaniu bardziej z\u0142o\u017conych problem\u00f3w, co mo\u017ce przyspieszy\u0107 ca\u0142y proces tworzenia oprogramowania<\/span><\/li>\n<li style=\"font-weight: 400;\"><span style=\"font-weight: 400;\">Nauka poprzez przyk\u0142ad: Korzystanie z GitHub Copilot mo\u017ce by\u0107 edukacyjne, poniewa\u017c u\u017cytkownicy mog\u0105 uczy\u0107 si\u0119 nowych technik programistycznych i najlepszych praktyk poprzez analiz\u0119 sugerowanych rozwi\u0105za\u0144.<\/span><\/li>\n<\/ul>\n<p><span style=\"font-weight: 400;\">Wady:<\/span><\/p>\n<ul>\n<li style=\"font-weight: 400;\"><span style=\"font-weight: 400;\">Zale\u017cno\u015b\u0107 od narz\u0119dzia: Nadmierne poleganie na GitHub Copilot mo\u017ce prowadzi\u0107 do ograniczenia umiej\u0119tno\u015bci samodzielnego rozwi\u0105zywania problem\u00f3w i kreatywnego my\u015blenia przez programist\u00f3w.<\/span><\/li>\n<li style=\"font-weight: 400;\"><span style=\"font-weight: 400;\">Ryzyko b\u0142\u0119d\u00f3w: Sugestie Copilota mog\u0105 by\u0107 generowane na podstawie niew\u0142a\u015bciwego lub niepe\u0142nego zrozumienia kontekstu, co mo\u017ce prowadzi\u0107 do b\u0142\u0119dnych lub nieoptymalnych rozwi\u0105za\u0144.<\/span><\/li>\n<li style=\"font-weight: 400;\"><span style=\"font-weight: 400;\">\u015alepa wiara w sugestie: Istnieje ryzyko, \u017ce u\u017cytkownicy mog\u0105 zaakceptowa\u0107 sugestie Copilota bez w\u0142a\u015bciwej analizy, co mo\u017ce prowadzi\u0107 do nie\u015bwiadomego w\u0142\u0105czenia b\u0142\u0119d\u00f3w lub nieoptymalnych rozwi\u0105za\u0144 do ich projekt\u00f3w.<\/span><\/li>\n<\/ul>\n<h1><span style=\"font-weight: 400;\">\u015alepa wiara w tre\u015bci generowane<\/span><\/h1>\n<p><span style=\"font-weight: 400;\">Wraz z dynamicznym rozwojem sztucznej inteligencji (AI) i jej narz\u0119dzi, takich jak GitHub Copilot, w\u015br\u00f3d programist\u00f3w pojawia si\u0119 coraz wi\u0119cej pyta\u0144 dotycz\u0105cych zaufania do generowanych tre\u015bci. \u015alepa wiara w generowane przez AI tre\u015bci to zjawisko, w kt\u00f3rym u\u017cytkownicy bezrefleksyjnie akceptuj\u0105 sugestie, traktuj\u0105c je jako bezb\u0142\u0119dne i najlepsze mo\u017cliwe rozwi\u0105zania. Mo\u017ce to prowadzi\u0107 do wprowadzania b\u0142\u0119d\u00f3w do projekt\u00f3w oraz ogranicza\u0107 umiej\u0119tno\u015b\u0107 samodzielnego my\u015blenia i kreatywnego rozwi\u0105zywania problem\u00f3w. Zjawisko to jest szczeg\u00f3lnie niepokoj\u0105ce w kontek\u015bcie programowania, gdzie jako\u015b\u0107 kodu i bezpiecze\u0144stwo s\u0105 kluczowe.<\/span><\/p>\n<h2><span style=\"font-weight: 400;\">Wp\u0142yw na cyberbezpiecze\u0144stwo<\/span><\/h2>\n<p><span style=\"font-weight: 400;\">Przyk\u0142ad\u00f3w zbyt silnego zaufania do sztucznej inteligencji jest wiele, cho\u0107 najbardziej niebezpieczne wydaj\u0105 si\u0119 by\u0107 te w obszarze cyberbezpiecze\u0144stwa. Bardzo obszernie problem ten zosta\u0142 opisany w publikacji pt. <\/span><i><span style=\"font-weight: 400;\">AI hype as a cyber security risk: the moral responsibility of implementing generative AI in business. <\/span><\/i><span style=\"font-weight: 400;\">Autorzy w tej publikacji wskazuj\u0105 na r\u00f3\u017cne problemy wynikaj\u0105ce ze zbyt du\u017cego zaufania do generatywnego AI:<\/span><\/p>\n<ul>\n<li style=\"font-weight: 400;\"><span style=\"font-weight: 400;\">Cyberprzest\u0119pcy r\u00f3wnie\u017c korzystaj\u0105 z generatywnego AI i dzi\u0119ki temu mog\u0105 domy\u015bli\u0107 si\u0119 jakie rozwi\u0105zanie zaproponuje AI dla pewnych problem\u00f3w i wykorzysta\u0107 to na swoj\u0105 korzy\u015b\u0107 &#8211; a nu\u017c jaki\u015b naiwny specjalista od cyberbezpiecze\u0144stwa nie upewni si\u0119 wystarczaj\u0105co i skopiuje niesprawdzone rozwi\u0105zanie od generatywnego AI.<\/span><\/li>\n<li style=\"font-weight: 400;\"><span style=\"font-weight: 400;\">Dane do treningu mog\u0105 zosta\u0107 <\/span><i><span style=\"font-weight: 400;\">zatrute<\/span><\/i><span style=\"font-weight: 400;\">, co oznacza ingerencj\u0119 osoby trzeciej w ich zawarto\u015b\u0107. Taka mo\u017cliwo\u015b\u0107 wyst\u0119puje na przyk\u0142ad przy tworzeniu customowych GPT (personal GPT), kt\u00f3re OpenAI udost\u0119pni\u0142o w 2023 roku. Haker m\u00f3g\u0142by wyszkoli\u0107 taki model w taki spos\u00f3b, aby celowo podpowiada\u0142 rozwi\u0105zania z lukami bezpiecze\u0144stwa, kt\u00f3re nast\u0119pnie mo\u017ce wykorzysta\u0107. Zradykalizowane osoby i organizacje, na przyk\u0142ad o profilu terrorystycznym, mog\u0142yby pr\u00f3bowa\u0107 za\u015bmieca\u0107 przestrze\u0144 internetow\u0105 rozwi\u0105zaniami r\u00f3\u017cnych problem\u00f3w wra\u017cliwymi na atak, a nie\u015bwiadome niczego modele, m\u00f3wi\u0105c kolokwialnie, <\/span><i><span style=\"font-weight: 400;\">\u0142yka\u0142yby wszystko jak pelikany<\/span><\/i><span style=\"font-weight: 400;\">. W ten spos\u00f3b mo\u017cna by wyrz\u0105dzi\u0107 niewyobra\u017calne wr\u0119cz szkody we wszystkich bran\u017cach na praktycznie ca\u0142ym \u015bwiecie.<\/span><\/li>\n<li><span style=\"font-weight: 400;\">Dane treningowe do modeli mog\u0105 wyciec, gdy\u017c nie\u015bwiadome niczego modele mog\u0105 spr\u00f3bowa\u0107 pochwali\u0107 si\u0119 nimi, je\u017celi zapytamy je o to sprytnym promptem. Tego typu atak nazwany zosta\u0142 <\/span><i><span style=\"font-weight: 400;\">prompt injection<\/span><\/i><span style=\"font-weight: 400;\"> i prowadzi\u0107 mo\u017ce do poznania, przez cyberprzest\u0119pc\u00f3w, metod i procedur zabezpiecze\u0144 u\u017cywanych np. w korporacjach.<\/span><\/li>\n<\/ul>\n<p><span style=\"font-weight: 400;\">Problemy te ju\u017c zbieraj\u0105 \u017cniwa w postaci ogromnych strat. Autorzy wskazuj\u0105 kilka przyk\u0142ad\u00f3w: jednym z nich jest sytuacja w Samsungu, kt\u00f3ry zakaza\u0142 u\u017cywania ChataGPT swoim pracownikom, gdy\u017c na tyle mu ufali i bywali na tyle zdesperowani, \u017ce bez zastanowienia do prompt\u00f3w wk\u0142adali wra\u017cliwe dane firmy. Salesforce uruchomi\u0142o program kosztuj\u0105cy 360 000$ rocznie, aby przeciwdzia\u0142a\u0107 skutkom umieszczania w modelach generatywnego AI wra\u017cliwych informacji.<\/span><\/p>\n<p><span style=\"font-weight: 400;\">W trakcie researchu nie uda\u0142o nam si\u0119 znale\u017a\u0107 konkretnych przyk\u0142ad\u00f3w, gdzie nadmierne zaufanie do AI przez programist\u00f3w by\u0142o bezpo\u015bredni\u0105 przyczyn\u0105 podatno\u015bci systemu. Trzeba jednak przyzna\u0107, \u017ce jest to tylko kwestia czasu a\u017c to si\u0119 wydarzy, o ile nie wydarzy\u0142o si\u0119 ju\u017c kilka razy, tylko nikt nie poda\u0142 do publicznej wiadomo\u015bci, \u017ce to w\u0142a\u015bnie AI stworzy\u0142o luk\u0119 w systemie. A jest to tym bardziej prawdopodobne, \u017ce w cytowanej przez autor\u00f3w pracy pt. <\/span><i><span style=\"font-weight: 400;\">Asleep at the keyboard? assessing the security of github copilot\u2019s code contributions <\/span><\/i><span style=\"font-weight: 400;\">wykazano, \u017ce nawet 40% sugestii Github Copilota mo\u017ce zawiera\u0107 luki bezpiecze\u0144stwa.<\/span><\/p>\n<h1><span style=\"font-weight: 400;\">Nasza perspektywa<\/span><\/h1>\n<p><span style=\"font-weight: 400;\">Jako autorzy tego artyku\u0142u, z bliska przygl\u0105damy si\u0119, jak technologia sztucznej inteligencji, na przyk\u0142ad GitHub Copilot, zmienia codzienno\u015b\u0107 programist\u00f3w. Nasze obserwacje wskazuj\u0105 na to, \u017ce chocia\u017c Copilot oferuje wygodne i wydajne sugestie kodu, kt\u00f3re mog\u0105 znacz\u0105co przyspieszy\u0107 proces tworzenia oprogramowania, pojawiaj\u0105 si\u0119 r\u00f3wnie\u017c pewne wyzwania. Z naszego punktu widzenia, kwestia polegania na generowanych przez AI rozwi\u0105zaniach otwiera dyskusj\u0119 na temat nudge technology, gdzie subtelne sugestie mog\u0105 kierowa\u0107 naszymi wyborami. Zastanawiamy si\u0119, jak to wp\u0142ywa na niezale\u017cno\u015b\u0107 naszych decyzji zawodowych i w jakim stopniu powinni\u015bmy ufa\u0107 tym automatycznym podpowiedziom. W tej sekcji dzielimy si\u0119 naszymi przemy\u015bleniami na temat konsekwencji, jakie niesie za sob\u0105 korzystanie z takich narz\u0119dzi, oraz wyzwa\u0144 etycznych i praktycznych, z kt\u00f3rymi musimy si\u0119 zmierzy\u0107 w kontek\u015bcie naszej pracy.<\/span><\/p>\n<h2><span style=\"font-weight: 400;\">Z perspektywy Autora 1<\/span><\/h2>\n<p><span style=\"font-weight: 400;\">Sam osobi\u015bcie nie u\u017cywa\u0142em nigdy Github Copilota, wi\u0119c moje do\u015bwiadczenia mog\u0119 oprze\u0107 na innych generatywnych AI, na przyk\u0142ad ChatGPT.<\/span><\/p>\n<p><span style=\"font-weight: 400;\">Narz\u0119dzia te dobrze nadaj\u0105 si\u0119 do tworzenia prostych i powtarzalnych fragment\u00f3w kodu. Jako przyk\u0142ad mog\u0119 poda\u0107 pro\u015bb\u0119 o wylistowanie najcz\u0119\u015bciej u\u017cywanych kolor\u00f3w w stylistyce MaterialUI od Google. Jest to zadanie proste, jednak wymaga\u0142oby troch\u0119 czasu &#8211; trzeba odnale\u017a\u0107 w dokumentacji biblioteki listy kolor\u00f3w oraz ich kody, natomiast ChatGPT od razu wylistowa\u0142 je wszystkie. Nast\u0119pnie mo\u017cna poprosi\u0107 AI o u\u0142o\u017cenie znalezionych kod\u00f3w w postaci listy lub tablicy w dowolnym j\u0119zyku programowania i voila! Otrzymujemy kod gotowy do wklejenia w IDE, kt\u00f3ry ma du\u017c\u0105 szans\u0119 zadzia\u0142a\u0107.<\/span><\/p>\n<p><span style=\"font-weight: 400;\">Innym zadaniem, z kt\u00f3rym ChatGPT radzi\u0142 sobie dobrze jest pro\u015bba o sugesti\u0119 rozwi\u0105zania problemu. Zamiast przeszukiwa\u0107 ca\u0142\u0105 dokumentacj\u0119 lub Stack Overflow w poszukiwaniu rozwi\u0105zania, mo\u017cna o mo\u017cliwe rozwi\u0105zania zapyta\u0107 generatywne AI. Cz\u0119sto zdarza\u0142o mi si\u0119, \u017ce cho\u0107 kod, kt\u00f3ry wytworzy\u0142o AI nie dzia\u0142a\u0142, to jednak zastosowa\u0142 w nim elementy, kt\u00f3rych d\u0142ugo szuka\u0142em i po kilku poprawkach mo\u017cna by\u0142o zastosowa\u0107 je w kodzie. <\/span><\/p>\n<figure id=\"attachment_5461\" aria-describedby=\"caption-attachment-5461\" style=\"width: 536px\" class=\"wp-caption alignnone\"><img loading=\"lazy\" decoding=\"async\" class=\"wp-image-5461\" src=\"https:\/\/architeles.eu\/ethics\/wp-content\/uploads\/2024\/05\/Screenshot-2024-05-21-at-23.38.59-300x140.png\" alt=\"\" width=\"536\" height=\"250\" srcset=\"https:\/\/architeles.eu\/ethics\/wp-content\/uploads\/2024\/05\/Screenshot-2024-05-21-at-23.38.59-300x140.png 300w, https:\/\/architeles.eu\/ethics\/wp-content\/uploads\/2024\/05\/Screenshot-2024-05-21-at-23.38.59-768x358.png 768w, https:\/\/architeles.eu\/ethics\/wp-content\/uploads\/2024\/05\/Screenshot-2024-05-21-at-23.38.59.png 986w\" sizes=\"auto, (max-width: 536px) 100vw, 536px\" \/><figcaption id=\"caption-attachment-5461\" class=\"wp-caption-text\">Fragment Odpowiedzi ChataGPT na pytanie o to jak zamienia\u0107 tablic\u0119 int\u00f3w na bajty i na odwr\u00f3t w j\u0119zyku Ruby<\/figcaption><\/figure>\n<p><span style=\"font-weight: 400;\">Jednak, z mojego punktu widzenia ChatGPT czy Codex nie potrafi wiele wi\u0119cej. Bardziej nietrywialne pytania pokonuj\u0105 modele od OpenAI na r\u00f3\u017cne sposoby. Zdarza im si\u0119 tworzy\u0107 kod, kt\u00f3ry nie ma \u017cadnego sensu, gdy\u017c najprawdopodobniej nie by\u0142y w stanie zrozumie\u0107 sensu pytania im zadanego. Jednak je\u017celi uda\u0142o ju\u017c si\u0119 zrozumie\u0107 pytanie, generatywne AI w swoich rozwi\u0105zaniach potrafi u\u017cywa\u0107 funkcji, czy nawet ca\u0142ych bibliotek, kt\u00f3re nigdy nie istnia\u0142y. Z punktu widzenia modelu AI, utworzy\u0142 on kod kt\u00f3ry ma sens i w sprytny spos\u00f3b rozwi\u0105za\u0142 zadany problem, ale z punktu widzenia programisty to rozwi\u0105zanie jest bezu\u017cyteczne.<\/span><\/p>\n<figure id=\"attachment_5462\" aria-describedby=\"caption-attachment-5462\" style=\"width: 482px\" class=\"wp-caption alignnone\"><img loading=\"lazy\" decoding=\"async\" class=\"wp-image-5462\" src=\"https:\/\/architeles.eu\/ethics\/wp-content\/uploads\/2024\/05\/Screenshot-2024-05-21-at-23.59.25-300x279.png\" alt=\"\" width=\"482\" height=\"448\" srcset=\"https:\/\/architeles.eu\/ethics\/wp-content\/uploads\/2024\/05\/Screenshot-2024-05-21-at-23.59.25-300x279.png 300w, https:\/\/architeles.eu\/ethics\/wp-content\/uploads\/2024\/05\/Screenshot-2024-05-21-at-23.59.25-768x713.png 768w, https:\/\/architeles.eu\/ethics\/wp-content\/uploads\/2024\/05\/Screenshot-2024-05-21-at-23.59.25.png 1006w\" sizes=\"auto, (max-width: 482px) 100vw, 482px\" \/><figcaption id=\"caption-attachment-5462\" class=\"wp-caption-text\">Odpowied\u017a ChatGPT na pro\u015bb\u0119 o wygenerowanie kodu, kt\u00f3ry znajdzie rozk\u0142ad wraz z paramterami, kt\u00f3re b\u0119d\u0105 najlepiej pasowa\u0107 do zadanych danych. Kod ten jest b\u0142\u0119dny, gdy\u017c obiekt best_fit_distribution nie posiada metody pdf.<\/figcaption><\/figure>\n<h2><span style=\"font-weight: 400;\">Z perspektywy Autora 2<\/span><\/h2>\n<p><span style=\"font-weight: 400;\">R\u00f3wnie\u017c nie korzysta\u0142em z GitHub Copilota, a tylko z ChatGPT-3.<\/span><\/p>\n<p><span style=\"font-weight: 400;\">U\u017cywam go g\u0142\u00f3wnie do prostych rzeczy, kt\u00f3rych nie musz\u0119 w standardowy spos\u00f3b googlowa\u0107, a pytam si\u0119 po prostu ChatGTP. Wiele razy pyta\u0142em si\u0119 go o przyk\u0142ad poni\u017cej, a\u017c to zapami\u0119ta\u0142em i zrozumia\u0142em, wi\u0119c mo\u017cna powiedzie\u0107, \u017ce spe\u0142nia rol\u0119 zar\u00f3wno pomocnicz\u0105, jak i dydaktyczn\u0105.<\/span><\/p>\n<figure id=\"attachment_5463\" aria-describedby=\"caption-attachment-5463\" style=\"width: 490px\" class=\"wp-caption alignnone\"><img loading=\"lazy\" decoding=\"async\" class=\"wp-image-5463\" src=\"https:\/\/architeles.eu\/ethics\/wp-content\/uploads\/2024\/05\/Screenshot-2024-05-22-at-22.19.54-300x79.png\" alt=\"\" width=\"490\" height=\"129\" srcset=\"https:\/\/architeles.eu\/ethics\/wp-content\/uploads\/2024\/05\/Screenshot-2024-05-22-at-22.19.54-300x79.png 300w, https:\/\/architeles.eu\/ethics\/wp-content\/uploads\/2024\/05\/Screenshot-2024-05-22-at-22.19.54-1024x268.png 1024w, https:\/\/architeles.eu\/ethics\/wp-content\/uploads\/2024\/05\/Screenshot-2024-05-22-at-22.19.54-768x201.png 768w, https:\/\/architeles.eu\/ethics\/wp-content\/uploads\/2024\/05\/Screenshot-2024-05-22-at-22.19.54.png 1198w\" sizes=\"auto, (max-width: 490px) 100vw, 490px\" \/><figcaption id=\"caption-attachment-5463\" class=\"wp-caption-text\">Sortowanie s\u0142ownika w Pythonie po warto\u015bciach.<\/figcaption><\/figure>\n<p><span style=\"font-weight: 400;\">Potrafi r\u00f3wnie\u017c na podstawie og\u00f3lnych wzorc\u00f3w dostosowa\u0107 te programy pod moje potrzeby. Niestety czasem robi to \u017ale, wi\u0119c w takim przypadku pozostaje znalezienie odpowiedzi na StackOverflow, czy z tutoriali na YouTube. W\u0142a\u015bnie z powodu takich przypadk\u00f3w uwa\u017cam, \u017ce na ten moment takie narz\u0119dzia nie s\u0105 w stanie zast\u0105pi\u0107 programist\u00f3w, bo po prostu czasem one si\u0119 myl\u0105 oraz wymagaj\u0105 skontrolowania i poprawy przez cz\u0142owieka.<\/span><\/p>\n<p><span style=\"font-weight: 400;\">Podsumowuj\u0105c moje do\u015bwiadczenia to takie narz\u0119dzia jak Github Copilot czy ChatGTP potrafi\u0105 znacz\u0105co przyspieszy\u0107 prac\u0119 programisty, ale trzeba by\u0107 jeszcze bardzo ostro\u017cnym, poniewa\u017c te programy mog\u0105 si\u0119 jeszcze myli\u0107. <\/span><\/p>\n<h1><span style=\"font-weight: 400;\">Podsumowanie<\/span><\/h1>\n<p><span style=\"font-weight: 400;\">GitHub Copilot to pot\u0119\u017cne narz\u0119dzie, kt\u00f3re mo\u017ce znacz\u0105co zwi\u0119kszy\u0107 efektywno\u015b\u0107 pracy programist\u00f3w, oferuj\u0105c inteligentne sugestie kodu w czasie rzeczywistym. Jednak\u017ce, z perspektywy zawodowej, wa\u017cne jest, aby u\u017cytkownicy byli \u015bwiadomi potencjalnych pu\u0142apek zwi\u0105zanych z nadmiernym poleganiem na automatycznych podpowiedziach. Nudge technology, jako zjawisko wp\u0142ywaj\u0105ce na decyzje u\u017cytkownik\u00f3w, podkre\u015bla potrzeb\u0119 zachowania zdrowego balansu mi\u0119dzy korzystaniem z nowoczesnych narz\u0119dzi a rozwijaniem w\u0142asnych umiej\u0119tno\u015bci i krytycznego my\u015blenia. Dzi\u0119ki temu, GitHub Copilot mo\u017ce by\u0107 warto\u015bciowym wsparciem, a nie zast\u0119pstwem dla profesjonalnej wiedzy i do\u015bwiadczenia programist\u00f3w.<\/span><\/p>\n<h1><span style=\"font-weight: 400;\">\u0179r\u00f3d\u0142a<\/span><\/h1>\n<p><a href=\"https:\/\/www.emerald.com\/insight\/content\/doi\/10.1108\/ITP-01-2023-0084\/full\/pdf?title=ai-in-software-programming-understanding-emotional-responses-to-github-copilot\">https:\/\/www.emerald.com\/insight\/content\/doi\/10.1108\/ITP-01-2023-0084\/full\/pdf?title=ai-in-software-programming-understanding-emotional-responses-to-github-copilot<\/a><\/p>\n<p><a href=\"https:\/\/www.scalablepath.com\/full-stack\/ai-pair-programming-github-copilot-review\"><span style=\"font-weight: 400;\">https:\/\/www.scalablepath.com\/full-stack\/ai-pair-programming-github-copilot-review<\/span><\/a><\/p>\n<p><a href=\"https:\/\/link.springer.com\/article\/10.1007\/s43681-024-00443-4\"><span style=\"font-weight: 400;\">https:\/\/link.springer.com\/article\/10.1007\/s43681-024-00443-4<\/span><\/a><\/p>\n<p><a href=\"https:\/\/arxiv.org\/abs\/2108.09293\"><span style=\"font-weight: 400;\">https:\/\/arxiv.org\/abs\/2108.09293<\/span><\/a><\/p>\n<p><a href=\"https:\/\/github.com\/features\/copilot\"><span style=\"font-weight: 400;\">https:\/\/github.com\/features\/copilot<\/span><\/a><\/p>\n<p><span style=\"font-weight: 400;\">Leonard, Thomas C. &#8222;Richard H. Thaler, Cass R. Sunstein, Nudge: Improving Decisions about Health, Wealth, and Happiness: Yale University Press, New Haven, CT, 2008, 293 pp, $26.00.&#8221; (2008): 356-360.<\/span><\/p>\n<p><br style=\"font-weight: 400;\" \/><br style=\"font-weight: 400;\" \/><\/p>\n<p>&nbsp;<\/p>\n","protected":false},"excerpt":{"rendered":"<p>Wprowadzenie GitHub Copilot, rewolucyjnego narz\u0119dzia wspomagaj\u0105cego programist\u00f3w, zmusza nas do ponownego rozwa\u017cenia natury naszych decyzji w procesie tworzenia kodu. Jednak\u017ce, gdy sugestie systemu staj\u0105 si\u0119 dominuj\u0105ce, stajemy wobec zjawiska znanego jako &#8222;nudge technology&#8221; \u2013 subtelne, ale pot\u0119\u017cne sk\u0142onienia, kt\u00f3re kszta\u0142tuj\u0105 nasze wybory. Czy \u015blepo ufamy generowanym tre\u015bciom? Jak to wp\u0142ywa na nasz\u0105 prac\u0119? Przyjrzyjmy si\u0119 [&hellip;]<\/p>\n","protected":false},"author":170,"featured_media":0,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"_jetpack_memberships_contains_paid_content":false,"footnotes":""},"categories":[351],"tags":[15,406,408,201],"class_list":["post-5455","post","type-post","status-publish","format-standard","hentry","category-agh-2023-24","tag-ai","tag-copilot","tag-cyberbezpieczenstwo","tag-nudge-technology"],"jetpack_featured_media_url":"","jetpack_sharing_enabled":true,"_links":{"self":[{"href":"https:\/\/architeles.eu\/ethics\/index.php\/wp-json\/wp\/v2\/posts\/5455","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/architeles.eu\/ethics\/index.php\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/architeles.eu\/ethics\/index.php\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/architeles.eu\/ethics\/index.php\/wp-json\/wp\/v2\/users\/170"}],"replies":[{"embeddable":true,"href":"https:\/\/architeles.eu\/ethics\/index.php\/wp-json\/wp\/v2\/comments?post=5455"}],"version-history":[{"count":4,"href":"https:\/\/architeles.eu\/ethics\/index.php\/wp-json\/wp\/v2\/posts\/5455\/revisions"}],"predecessor-version":[{"id":5692,"href":"https:\/\/architeles.eu\/ethics\/index.php\/wp-json\/wp\/v2\/posts\/5455\/revisions\/5692"}],"wp:attachment":[{"href":"https:\/\/architeles.eu\/ethics\/index.php\/wp-json\/wp\/v2\/media?parent=5455"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/architeles.eu\/ethics\/index.php\/wp-json\/wp\/v2\/categories?post=5455"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/architeles.eu\/ethics\/index.php\/wp-json\/wp\/v2\/tags?post=5455"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}