70 lat tradycji. Inspirujemy Prowokujemy Dyskutujemy

Co zmienią roboty?

Do niedawna działania Amerykanów – zabicie kilku tysięcy obywateli obcego państwa – byłyby traktowane jako akt wypowiedzenia wojny. Naruszanie suwerenności państwowej za pomocą robotów wydaje się postrzegane przez część opinii publicznej jako coś innego, niemieszczącego się w kategoriach dotychczasowego rozumienia użycia siły. Rozmyciu pojęcia suwerenności państwowej towarzyszy zacieranie konturów jednego z najistotniejszych aktów woli każdej wspólnoty politycznej – wypowiedzenia wojny.

Robotyka przyniesie najprawdopodobniej jedną z najważniejszych zmian technologicznych, które w zawrotnym tempie zrewolucjonizują naszą codzienność. Współcześni 30-latkowie mają szansę doświadczyć skali tej przemiany jeszcze za swojego życia. Wiele bowiem wskazuje na to, że dokona się ona już w nieodległej przyszłości. Świat czeka teraz na Steve’a Jobsa robotyki – kogoś, komu uda się wprowadzić autonomiczne maszyny „pod strzechy”.

Z robotów na coraz większą skalę zaczynają korzystać siły zbrojne państw rozwiniętych. Nic więc dziwnego, że w mediach często można usłyszeć o atakach przeprowadzanych przez amerykańskie, brytyjskie czy izraelskie wojsko za pomocą maszyn bezzałogowych. Robotyka, podobnie jak inne technologie, rozwija się w dużej mierze dzięki obfitemu strumieniowi pieniędzy rządowych i tak jak wcześniej Internet, również i ona – tworzona pierwotnie z myślą o wykorzystaniu militarnym – znajdzie swoje powszechne zastosowanie w przemyśle i życiu codziennym. Warto zwrócić uwagę na szybkość, z jaką nowe technologie stają się niepostrzeżenie nieodłącznym elementem codziennego życia. Ilu z nas uświadamia sobie, że odgrzewając posiłek, przemieszczając się do pracy czy dzwoniąc do kogoś, wykonuje te czynności dzięki komputerom? Nikt już przecież nie powie, że obiad odgrzała komputerowo sterowana kuchenka mikrofalowa, do pracy dojechał komputerowo wspomaganym samochodem, a telefonuje, tak naprawdę, z komputera. Komputery i Internet stały się „naturalną” częścią naszego życia – podobnie jak ryby nie dostrzegają wody, tak my nie dostrzegamy już komputerów. Wiele wskazuje, że taki sam los spotka roboty. Możliwe skutki tej zmiany postaram się opisać w poniższym tekście.

Vernor Vinge i Ray Kurtzweil, dwaj znani amerykańscy futurolodzy, zwracają uwagę na fakt, że żyjące obecnie pokolenia doświadczają upowszechnienia się bez porównania większej liczby nowych technologii niż ludzie żyjący wcześniej. W związku z czym sugerują, że niebawem możemy mieć do czynienia ze zjawiskiem zwanym technologiczną osobliwością (ang. singularity) – stanem, w którym postęp technologiczny wyprzedzi możliwości adaptacyjne żyjącego pokolenia, technika rozwinie się tak szybko, że nie będziemy już w stanie „uczyć” się jej na bieżąco. Dobrą ilustracją tej tezy jest przypomnienie sobie nas samych w sytuacji, kiedy babci czy dziadkowi wyjaśnialiśmy, czym są tzw. warstwy w jednym z popularnych programów do edycji obrazu 2D. By zrozumieć tę koncepcję, konieczna jest intuicja i wiedza na temat ogromnej ilości innych elementów. W sytuacji dzisiejszych seniorów mogą już niebawem znaleźć się przyszli 20-latkowie. Na potwierdzenie tezy o technologicznej osobliwości można przywołać utrzymujące się w mocy od dłuższego czasu tzw. prawo Gordona Moore’a, mówiące, w uproszczeniu, iż moc obliczeniowa procesorów podwaja się co każde dwa lata. W związku z czym już za kilkadziesiąt lat maszyny uzyskają moc obliczeniową porównywalną z ludzkim mózgiem, a tym samym możliwe stanie się stworzenie samoświadomych maszyn.

Czym jest robot?

Słowo „robot” pochodzi najprawdopodobniej z języka czeskiego, jego sens łączył się z pracą wykonywaną przymusowo, nie z własnej woli, współcześnie oznacza każdy rodzaj czynności. W języku literackim zostało użyte po raz pierwszy w sztuce pod tytułem R.U.R. (Rossum’s Universal Robots) czeskiego artysty Karela Čapka. W języku polskim często terminem „robot” określane są np. wysięgniki i manipulatory mechaniczne, umieszczone na różnego rodzaju podwoziach, które znajdują się pod stałym nadzorem człowieka i są przez niego sterowane. Takie popularne zastosowanie słowa jest zasadne, jeśli weźmie się pod uwagę, że współcześnie mamy do czynienia dopiero z pierwszą generacją robotów. Nowe generacje, które zajmą ich miejsce, na pewno będą miały więcej wspólnego z definicją robota zaproponowaną przez znawcę tematyki Roberta Finkelsteina. Dokładnie rzecz ujmując, maszyna, by zostać nazwaną pełnowartościowym robotem, powinna składać się z trzech elementów: sensorów do odbierania bodźców ze środowiska, ośrodka obliczeniowego umożliwiającego reagowanie na odebrane bodźce, robot musi też posiadać urządzenia umożliwiające oddziaływanie na otoczenie.

Innymi słowy, „prawdziwy robot” musi posiadać znaczny poziom autonomiczności albo przynajmniej być tak zaprogramowany by móc wykonywać różnego rodzaju działania bez stałej ingerencji człowieka. Współcześnie każdy z nas już niejednokrotnie, być może bezwiednie, składał swoje życie w ręce maszyny, np. w trakcie lotu samolotem z włączonym systemem autopilota. Obecnie z powodów ekonomicznych automatyzacja jest często spotykanym powodem ich wykorzystania. Termin „automatyzacja” odnosi się do sytuacji, w której maszyna działająca podług zestawu reguł wykonuje zadania w określonym środowisku.

Często można się spotkać ze stwierdzeniem, że obok ziemi, wody, powietrza i przestrzeni kosmicznej piątą sferę ludzkiej aktywności stanowi Internet. Co ciekawe, to właśnie Internet jest środowiskiem zdominowanym przez boty – wirtualnych krewniaków tradycyjnych robotów. Boty to programy wykonujące wcześniej zaprogramowane algorytmy. Aktualnie działania (ro-)botów w sieci generują 51% globalnego „ruchu” w Internecie. Przykładami tego rodzaju aktywności są wszelkie operacje wykonywane przez systemy bankowe czy programy do wymiany danych. To właśnie m.in. przez boty użytkownikom Internetu sugeruje się, by zamieszczając na stronie internetowej własny adres e-mail, znaczek popularnej małpy „@” zastępowali słowem „at” albo „na”. To również przez boty musimy udowadniać w różnych serwisach internetowych, że „naprawdę jesteśmy żywymi ludźmi”, i wpisywać w odpowiednie pola wyrazy generowane w plikach graficznych, tak by bot nie był w stanie np. na forum internetowym generować automatycznie niezliczonej liczby wpisów, czyli spamu.

Należy wyraźnie podkreślić, że od automatyzacji odróżnia się autonomię, oznaczającą coś innego. Autonomia, w tym kontekście, to zdolność maszyny do samodzielnego reagowania na dochodzące ze środowiska bodźce. Aktualnie nie możemy mówić o pełnej autonomii istniejących systemów robotycznych. Jednocześnie warto zwrócić uwagę na ciekawe zjawisko coraz częstszego przenoszenia odpowiedzialności na maszyny, ludzie z natury bowiem ufają bardziej maszynom niż sobie samym. Niestety, w historii było to już niejednokrotnie przyczyną tragedii. Głośnym echem odbiło się zestrzelenie w 1988 r. irańskiego pasażerskiego samolotu przez amerykański okręt U.S.S. Vincennes. Służący na nim marynarze bezkrytycznie zaufali systemowi AEGIS, który zestrzeloną maszynę zidentyfikował jako samolot bojowy przeciwnika. Automatyzowanie to nieodzowny element systemów obrony, tylko dzięki niemu możliwe jest bowiem zapewnienie odpowiednio szybkiej reakcji. Jednak i to ma swoją cenę. W październiku 2013 r. system obrony przeciwrakietowej izraelskiego czołgu Merklava-4 zaatakował własny wóz bojowy piechoty typu Namer, identyfikując go jako rakietę wroga. Na szczęście, tym razem, nikomu nic się nie stało.

Na marginesie warto zauważyć, iż w Stanach Zjednoczonych odchodzi się od nazwy bezzałogowych aparatów latających/naziemnych/nawodnych/podwodnych (ang. Unmanned Aerial/Ground/Surface/Underwater Vehicles), ponieważ ta może wprowadzać w błąd. W rzeczywistości do obsługi współczesnych systemów bezzałogowych niezbędne są całe zastępy ludzi (pilotów, mechaników, techników i analityków). Do obsługi systemu RQ-1 Predator, składającego się z 4 maszyn, potrzeba ok. 80 osób. Dlatego też coraz powszechniej maszyny tego typu określa się nazwą systemów zdalnie sterowanych (ang. Remotely Piloted Systems) lub niezamieszkałych (ang. Uninhabited). W polskiej prasie roboty latające najczęściej określa się mianem dron (polskim odpowiednikiem angielskiego słowa drone jest truteń) lub bardziej specjalistycznie – bezzałogowe statki powietrzne (BSP).

Skala zmian

Roboty są i będą w coraz większym stopniu wykorzystywane do zastępowania ludzi w czynnościach z kategorii brudnych, nudnych i niebezpiecznych. Sprzątanie może stanowić przykład ilustrujący zrobotyzowanie pierwszej kategorii zadań. W 2011 r. jedna z firm produkujących najpopularniejszego domowego robota sprząta jącego sprzedała aż 6 mln egzemplarzy. Oznacza to, ni mniej, ni więcej, iż wielu ludzi wpuściło roboty do domu i powierzyło im wycinek własnych obowiązków. Ponadto część użytkowników tego sprzętu zakupiła dla niego różne obudowy, w tym imitujące futro, a nawet zaczęła nadawać swoim robotom imiona. Ten „humanizujący” trend ma również swoje bardziej mroczne oblicze – np. budowanie robotów w celu świadczenia usług seksualnych (tzw. femboty).

Na marginesie należy jednak zauważyć, iż częścią robotyki jest protetyka, której wiele ofiar wypadków zawdzięcza możliwość sprawnego funkcjonowania w życiu codziennym. Z drugiej jednak strony nie można zapominać np. o kontrowersjach, jakie towarzyszyły występom sportowym Oscara Pistoriusa. Ten niepełnosprawny biegacz z Republiki Południowej Afryki chciał podjąć rywalizację z „normalnymi” sportowcami. Środowisko lekkoatletyczne odniosło się jednak do tej propozycji z dużą rezerwą, powstało pytanie, czy aby na pewno Pistorius stanowi przykład niepełnosprawności, a nie ulepszenia ludzkiego ciała. Wydaje się, że w tej historii pobrzmiewają echa przyszłości, w której ludzie będą na dużo większą skalę modyfikowali własne ciało w celu poprawy jego możliwości.

Roboty zastępujące ludzi w czynnościach nudnych najlepiej obrazują stopień robotyzacji gospodarek najbardziej rozwiniętych państw. Międzynarodowa Federacja Robotyki, mierząca nasycenie gospodarki robotami, wskazuje, iż w 2012 r. na świecie pracowało 1 235 389 robotów przemysłowych, do 2016 r. ich liczba ma wzrosnąć do 1 659 500. Poziom robotyzacji gospodarki mierzy się, podając liczbę robotów przypadających na 10 tys. robotników. Co ciekawe, piątkę najbardziej zrobotyzowanych gospodarek świata tworzą: Korea Południowa i Japonia z 300 robotami na 10 tys. robotników, następne miejsca zajmują Niemcy i Włochy oraz Dania – odpowiednio z 160 oraz ok. 145 robotami. USA zajmują szóste miejsce z ok. 140 maszynami na 10 tys. robotników. Ten sam współczynnik dla Polski wynosi 14. Obecnie roboty, a precyzyjniej: manipulatory, wykorzystywane są głównie przez przemysł samochodowy. Rola maszyn w przemyśle motoryzacyjnym będzie rosnąć, wydaje się bowiem, że właśnie transport, zarówno indywidualny, jak i publiczny, stanie się kolejnym obszarem oddanym zautomatyzowanym, w dużym stopniu autonomicznym maszynom. Śmiało można stwierdzić, iż obecnie robotyka, tak cywilna, jak i wojskowa, to już osobna gałąź gospodarki. Szacuje się, że wartość rynku samych wojskowych samolotów bezzałogowych wzrośnie z 6,6 mld dolarów w 2013 r. do 11,4 mld dolarów w 2022 r.

Za wdrażanie w czynności niebezpieczne maszyn w miejsce ludzi odpowiada w największym stopniu sfera wojskowa. Świadomość tego rodzaju zmiany upowszechnił oscarowy film W pułapce wojny (ang. The Hurt Locker) opowiadający losy zespołu żołnierzy rozbrajających w Iraku improwizowane ładunki wybuchowe. „Aktorem” drugiego planu był wykorzystywany na polu walki robot. Tempo wzrostu liczby robotów, jakie odnotowała armia USA, jest zawrotne – w momencie wkraczania do Iraku w 2003 r. Amerykanie nie dysponowali ani jednym robotem naziemnym, rok później było ich już 150, w 2004 r. – 2400, a w roku 2008 – około 12 tys. Magazyn „Wired” wyliczył, iż w 2011 r. jeden na 50 służących w Afganistanie żołnierzy był robotem. Jeszcze szybciej rośnie liczba pozyskiwanych przez US Army bezzałogowych systemów i aparatów latających. Obecnie 59% wszystkich samolotów wykorzystywanych przez Departament Obrony USA to różnej wielkości roboty latające. Zmiany te wprost znajdują odzwierciedlenie w strukturze szkolonych żołnierzy – w 2011 r. na 600 trenowanych pilotów większość, bo aż 350, stanowili przyszli operatorzy bezzałogowców. Warto dodać, iż nie tylko Stany Zjednoczone rozwijają technologię robotyczną. Podlegające Kongresowi Biuro Kontroli Rządowej szacuje, że od 2005 do lipca 2012 r. liczba państw posiadających latające systemy bezzałogowe wzrosła z 40 do 76, przy czym 11 państw (Stany Zjednoczone, Francja, Niemcy, Włochy, Turcja, Wielka Brytania, Rosja, Chiny, Indie, Iran i Izrael) dysponuje bezzałogowcami uzbrojonymi.

Co ulega zmianie na naszych oczach?

Najwyraźniej konsekwencje rewolucji robotycznej widać w sposobie funkcjonowania sił zbrojnych. Tzw. wojna z terroryzmem prowadzona przez Stany Zjednoczone stworzyła doskonałe pole dla rozwoju systemów bezzałogowych. To właśnie za ich pomocą wykonywane były i są ataki na cele w Iraku, Libii i Afganistanie – regionach objętych działaniami wojennymi. Jednak operacje zbrojne prowadzone są również w ramach niejawnego programu amerykańskiego wywiadu i sił specjalnych na obszarach suwerennych państw, w tym formalnie sojuszników USA – Pakistanu i Jemenu – oraz w Somalii. Amerykański wywiad i siły zbrojne przeprowadzają dwa rodzaje ataków. Pierwszy dotyczy osób, których tożsamość została potwierdzona, drugi typ, budzący największe kontrowersje, to ataki na osoby, których zachowanie budzi podejrzenie prowadzenia działalności dywersyjnej (tzw. ang. signature strikes). Niepokoi brak przejrzystości zasad wykorzystania uzbrojonych dronów oraz niejasność procedury tworzenia listy celów.

Do niedawna działania Amerykanów – zabicie kilku tysięcy obywateli obcego państwa – byłyby traktowane jako akt wypowiedzenia wojny. Abstrahując od prawdopodobnej cichej zgody władz w Islamabadzie, naruszanie suwerenności państwowej za pomocą robotów wydaje się postrzegane przez część opinii publicznej jako coś innego, niemieszczącego się w kategoriach dotychczasowego rozumienia użycia siły. Czym jednak różni się atak za pomocą bezzałogowca od ataku przeprowadzonego samolotem załogowym?

Rozmyciu pojęcia suwerenności państwowej towarzyszy zacieranie konturów jednego z najistotniejszych aktów woli każdej wspólnoty politycznej – wypowiedzenia wojny. Symptomatycznym przykładem była operacja w Libii. Prezydent USA, zwierzchnik sił zbrojnych i głównodowodzący w trakcie wojny, ma również prawo do podejmowania działań militarnych w trakcie pokoju, jest jednak zobowiązany przez prawo poinformować o nich Kongres w ciągu 48 godzin, następnie prezydent dysponuje w sumie 90 dniami, aby uzyskać zgodę kongresmenów na kontynuowanie działań wojskowych. Bez niej działania te mają natychmiast zostać przerwane. Od 23 kwietnia 2011 r. w Libii Amerykanie zaczęli wykorzystywać w misjach rozpoznawczych, a następnie bojowych samoloty bezzałogowe. Prezydencka administracja wykorzystała ten fakt jako pretekst do nieubiegania się o zgodę Kongresu na kontynuowanie działań zbrojnych. Jednym z argumentów było stwierdzenie, iż życiu amerykańskich żołnierzy nie zagraża poważne niebezpieczeństwo i nie są oni narażeni na śmierć, co stanowi warunek ubiegania się o zgodę. Tym samym USA, które ostatni raz wypowiedziały wojnę w 1942 r. Bułgarii, Węgrom i Rumunii, mogły zgodnie z własnym prawem kontynuować działania zbrojne – szacuje się, że przeprowadzono nie mniej niż 145 ataków z wykorzystaniem dronów, w których śmierć poniosło najprawdopodobniej kilkuset zwolenników Mu’ammara Kadafiego. Innymi słowy, działania prowadzone z wykorzystaniem samolotów bezzałogowych, w wyniku których ginęli ludzie, zostały potraktowane jako różne od tradycyjnego konfliktu zbrojnego. W związku z powyższym Peter W. Singer, znawca poruszanej tu problematyki, uznał że drony „zabiły” wojnę. Co gorsza, zapoczątkowały proces jeszcze szybszej utraty zainteresowania sprawami międzynarodowymi ze strony opinii publicznej, zwłaszcza że z wykazu „kosztów” kampanii wojskowych wykreślone zostanie ryzyko strat wśród własnych żołnierzy.

Roboty zmieniły pojęcie wojny również w innym aspekcie. Obecnie nie tylko państwa mogą mieć problem z rozpoznaniem, czy i z kim dokładnie znajdują się w stanie wojny. Cóż bowiem dla pilota statku bezzałogowego oznacza „znajdować się na wojnie”? Wielowiekowa tradycja stworzyła etos wojownika, rycerza – mężczyzny lub kobiety narażających własne zdrowie i życie dla wspólnoty. Nasza kultura czci pamięć poległych na wojnie, szczególną atencją darzymy tych, którzy poświęcili się dla obrony ojczyzny. Czyny odwagi i akty heroizmu najwyższe władze w państwie honorują, przyznając odznaczenia.

W lutym 2013 r. kierownictwo Departamentu Obrony USA zgłosiło pomysł stworzenia nowego medalu. Nowy medal, Medal za Wybitne Osiągnięcia na Polu Walki (ang. Distinguished Warfare Medal), miał być przeznaczony dla żołnierzy prowadzących działania w cyberprzestrzeni oraz za pomocą samolotów bezzałogowych. Oburzenie amerykańskich weteranów wojennych wywołał fakt, iż medal ten znajdował się w hierarchii odznaczeń powyżej Brązowej Gwiazdy z literą V (ang. Bronze Star with Valor), która jest przyznawana za odwagę w obliczu wroga, bohaterstwo lub przykładną służbę na polu walki, oraz powyżej Purpurowego Serca (ang. Purple Heart), przyznawanego pośmiertnie lub za odniesione rany w trakcie służby wojskowej. Opór był na tyle silny, że Pentagon wycofał się ze swojego pomysłu w kwietniu 2013 r. Jednak miesiąc później z instrukcji opisującej procedurę przyznawania odznaczeń wojskowych i wojennych usunięto definicję tzw. bohaterstwa w trakcie walki (ang. combat heroism). Do maja 2013 r. rozumiano pod tym pojęciem „dokonane przez osobę akt lub akty heroizmu, wykraczające poza to, czego zwykle oczekuje się w trakcie bezpośredniej walki z wrogiem, przy czym działanie to odbywa się z wystawieniem siebie samego na zagrożenie ze strony wroga oraz ryzyko osobiste”. Tym samym, wydaje się, że droga dla „cyberheroizmu” została otwarta.

Osobną kategorię problemów stanowią te związane bezpośrednio z ludźmi, którzy sterują latającymi uzbrojonymi bezzałogowcami, oraz z ofiarami ataków dronów. Krytycy wykorzystywania latających systemów bezzałogowych wskazują na możliwość wytworzenia się wśród pilotów tego rodzaju maszyn „mentalności Playstation”. Brak realnej obecności na polu walki może powodować przeświadczenie operatorów bezzałogowców, że ich praca staje się grą komputerową, a zadawana śmierć jest nierealna. W prasie pojawiają się również porównania służby pilotów samolotów bezzałogowych do pracy katów. Analogia dotyczy faktu, iż kaci wykonują wyroki, nie będąc narażonymi na żadne ryzyko utraty zdrowia czy życia, podobnie pilot bezzałogowca, który przed odpaleniem rakiety obserwuje bacznie swoją ofiarę przez 24 godziny 7 dni w tygodniu.

Krytycy dronów podnoszą jeszcze inne potencjalne konsekwencje dla psychiki pilotów takich maszyn. Chodzi o sytuację, w której żołnierz po zakończeniu swojej zmiany „zawiesza” działania wojenne, by po chwili znaleźć się w domu wśród najbliższych. Taki system prowadzenia wojny i gwałtowne zmiany otoczenia mogą wywierać negatywny wpływ na ludzką psychikę. Czy rzeczywiście i w jaki dokładnie sposób, jeszcze nie wiadomo. Dopełnienie katalogu tego rodzaju obaw stanowi tzw. pornografia wojenna, czyli filmy przedstawiające ludzką śmierć, zazwyczaj zarejestrowane w podczerwieni przez kamery znajdujące się np. w robotach lub wykorzystywanych przez nie rakietach. Filmom tym towarzyszy zwykle podkład muzyczny. Wydaje się, że to silny dowód na rosnącą trywializację ludzkiej śmierci.

Oczywiście armia walczy o pozytywny wizerunek żołnierzy nowej formacji, czego elementem jest, oprócz wspomnianego powyżej nowego odznaczenia, proces budowy tożsamości tej grupy. W tym celu piloci / operatorzy samolotów bezzałogowych noszą kombinezony i umundurowanie podobne do odzienia pilotów tradycyjnych maszyn, bardzo często operatorzy bezzałogowców pełnią swoją służbę w fotelach przypominających fotele wykorzystywane w samolotach konwencjonalnych (pomimo faktu, iż równie dobrze mogliby siedzieć w zwykłym fotelu). Co więcej, manipulator wykorzystywany do sterowania dronem oficjalnie nazywa się control stickiem – armia nie pozwala nazywać go joystickiem (oczywiście, by uniknąć skojarzeń z grami komputerowymi).

Często podnosi się również pytania o status prawny operatorów statków bezzałogowych. Skrajnym przykładem tej niejasności jest dokonanie ataku odwetowego przez członków-sympatyków zwalczanej przez USA organizacji na pilota takiej maszyny, wracającego po służbie do domu. Pojawia się pytanie: czy byłby to uprawniony na wojnie akt odwetu? Czy może mamy do czynienia ze „zwykłym” przestępstwem zabójstwa czy też aktem terroru? Kto i jak ma osądzić sprawcę takiego ataku?

Nie można także zapominać o możliwym wpływie, jaki drony mogą wywierać na psychikę osób żyjących na obszarach objętych ich działaniami. W 2012 r. naukowcy z Uniwersytetu Stanforda opublikowali raport z badań, w którym sugerowali pojawienie się objawów chorób psychicznych o podłożu nerwicowym u ludności północno-zachodniego Pakistanu (zamieszkującej tzw. Terytoria Plemienne Administrowane Federalnie). Badacze wskazywali, że „życie pod dronami” powoduje zaburzenia psychiczne związane z permanentną obawą o życie własne i najbliższych.

 
 

Zapisz się do newslettera!

Otrzymasz 35% kod rabatowy na dowolny numer miesięcznika oraz informacje o promocjach, wydarzeniach i spotkaniach autorskich

email marketing zapewnia MailPlanner

Newsletter