Tag Archives: e-valimised

Valimiste turvamudelist

Anto Veldre, RIA analüütik

Tisklaimer – alljärgnev on katse kokku koondada suurem pilt, mis seondub Eesti i-hääletusega ja selle erilise kohaga maailmas. Infot olen koondanud siit ja sealt, tänud kõigile korrespondentidele. Võimalikud vead on sellegipoolest minu omad ja palun neist lahkesti teada anda.

Ühtlasi ütlen kohe ausalt ära, et minust sai e-hääletuse pooldaja mais 2004 (nähes eelist, mida teistel riikidel pole) ning et lisaks olen paberhääletuse (kui mustkunsti ja sotsiaalse sõltuvuse kaudu manipuleeritava traditsiooni) leige vastane. Kindlasti olen erapoolik – jätan paar tugevat argumenti käsitlemata pelgalt seepärast, et i-valimiste elukutselistele vastastele järamiseks lisakonte hambusse mitte anda.

Kiirkokkuvõte

  • Eesti i-hääletus vs e-hääletus (kiosk, DRE) mujal on täiesti erinevad asjad.
  • Esitan valimiste senisest globaalsema mudeli, kiidan Eestit, nimetan eri riikide arenguid e-/i-hääletuse valdkonnas.
  • e- ning i-hääletuskatsed eri riikides on valimisaktiivsust alati märgatavalt suurendanud. Kas on võimalik, et traditsiooniline valimiskord ei arvestagi elukiiruse drastilise tõusuga?
  • Püstitan irratsionaalse i-valimiskartuse hüpoteesi – see on alalhoidlik vastureaktsioon suutmatusele kaasuda uute distsipliinidega (küber, infosõda, memeetika).
  • Väidan, et Eesti suutlikkus oma e-riigi ja i-hääletuse mehhanisme iseendalegi, saati siis rahvusvahelisel areenil võrreldavalt selgitada, võiks olla parem.

Tegu on mahuka analüüsiga ehk nagu millenniumlased ütlevad: TL;DR (too long, don’t read). Kahjuks pole nii keerulise materjali lühikäsitlus 7 +/– 2 lihtfaktoidi abil mõeldav.

Esitatud viited on võimalusel ingliskeelsed, aitamaks selgitada e-hääletust ka rahvusvahelise auditooriumi ees.

Sissejuhatus

Valimistele esitatakse enamasti normitehnilisi nõudeid (hääleõigus, ühetaolisus) ja siis veel ka protseduurilisi nõudeid (kes ja kuidas viib hääletuse läbi või auditeerib tulemusi). Ent vahepeal on maailm muutunud, inforuumi ja küberruumi küpsemine on hägustanud riigipiirid kohati vaid virtuaalseks jooneks. Kontrollküsimus: kas mõne teise riigi luureteenistus osaleb meie valimistel?

Meie elanikkonda mõjutavad meie naabrite ja vastaste küberneetilised ning memeetilised relvad kindla peale, mistõttu vaade valimistele kui lokaalse iseloomuga sündmusele tänapäeval enam ei päde. Westfaali nägemus rahvusriiklusest eeldab kindlat territooriumi ning selle piires toimivat bürokraatiat, mõlemad mõisted on globaliseerumise tingimustes paraku hägustumas.

Ühtlasi pole maailma ajaloo kogu eelnenud perioodil tekkinud vajadustki vaadelda valimisi nn täiusliku mänguteoreetilise operatiivtervikuna, milles konsolideeritaks korralduslikud ja tehnilised aspektid, ründevektorid ning võimeka oponendi võimalikud tehnoloogilised vastukäigud globaalses vaates. Tänaseks on see vajadus tekkimas.

Tänapäeva riskihaldusnõuetele vastavat valimiste üldmudelit saab mingilgi kujul ette näidata vaid Eesti ning see kätkeb endas järgmisi elemente:

  1. Õigusriigile omane juriidiline režiim, tagamaks kandidaatide füüsilist ning psühholoogilist ohutust. Globaalne turvaolukord on halvenenud, mistõttu võib täna demokraatia tingimustes vabalt juhtuda, et Alt-Right tiiva kandidaadi näiv või (suisa tegelik) julgeolek õigusriigis osutub täna nudituks. Olgu ühtlasi hästi selge, et see fenomen asetub kusagile eetika ja kultuuri vahepeale, väljapoole valimiskorralduse konteksti, illustreerides ometigi mõningaid moodsaid mõjusid, mida valimistel arvestamata jätta ei saa.
  2. Õigusriigile omane juriidiline režiim, mis tagaks lihtsa ja kerge võimaluse valimistel osalemiseks (kas siis kandidaadi või valijana) igaühele, kellel on selleks soov ja seadusekohane õigus. Probleemiks on ilmsed ja mitteilmsed tsensused, sealhulgas elanikkonna vaesematele kihtidele ebamõistlikult kalliks osutuv isikut tõendava dokumendi nõue. Sellest vaatevinklist, isegi riikides, kus e- või i-hääletus on ebaõnnestunud, märgitakse osaluse märgatavat elavnemist, rääkimata EU ametlikust poliitikast osalusprotsendi sihipäraseks tõstmiseks.
  3. Õigusriigi vääriline olukord, kus puudub praktiline võimalus (eriti just lokaalsete) valimiskomisjonide liikmete üksikult või grupikaupa mõjutamiseks sõltuvuse vms kaudu. Tegemist on demokraatia piinliku kitsaskohaga, mida maailm seni tunnistada ei soovi ning mida Eesti tajub üksnes tänu Nõukogude Eesti aegse valimisfarsi nn 99,9% kogemusele.
  4. Usaldusväärne valijate register, seal sisalduva info autentsus, terviklus ja salgamatus. Maailmas on Eesti kõrval vähe riike, kus säärane keskne elektrooniline register a) eksisteerib, b) on volitatud süsteemile online‘is kättesaadav ning c) osutub küberrünnakule vastupidavaks.
  5. Usaldusväärne kandidaatide register, seal sisalduva info autentsus, terviklus ja salgamatus.
  6. Inforuumi, sh globaalse inforuumi või ka mõne lihtsalt vaenuliku inforuumi mõju valijatele. Tegemist on seni suuresti alahinnatud psühholoogilise kaitse distsipliiniga, mille mõju valimistulemustele (eriti multikultuurses riigis) pole paraku võimalik alahinnata – meenutagem näiteks Eurovisiooni hääletusi. Ühtlasi ei saa välistada, et suurandmete ajastul on tekkimas tõhusad psühhomeetrilised tehnoloogiad laiade valijakihtide järkjärguliseks mõõdistamiseks ja mõjutamiseks läbi sotsiaalvõrgustike.
  7. Küberruumi artefaktide mõju valimisprotseduuridele, eelkõige käideldavuse ja tervikluse osas (küberrünnaku alamliigid: DDoS, pahavara). Küberruum olgu siinkohal defineeritud suhtlusvõimeliste infotöötlusseadmete hulgana, vt MKMi terminoloogiadokumenti). Eesti i-hääletuse riskidokument käsitleb küberriske avatult.
  8. Valimiste mistahes etapil kasutatud infotehnoloogia turvalisus – olgu siis eeldatud või sätestatud tasemel (konfidentsiaalsus, terviklus, käideldavus). Hillary Clintoni ja DNC meiliserveritele tehtud vanamoodne küberrünnak andis näiteks USAs tagasilöögi hoopis valimiste infosüsteemidele. Kuid: tegelikku turvalisust tuleb kindlasti eristada avalikult aktsepteeritud vaatest – rünnata võidakse nii tehnoloogiat kui hoopis selle kuvandit, vt ka p 10). Kontrollküsimus: mis kasu võiks varas loota Valimiskomisjoni arvuti ärapätsamisest?
  9. Valimiste korraldaja ja tema tööprotseduuride usaldusväärsus. Tegemist on interdistsiplinaarse alaga, milles on nii õiguslikke, sotsiaalseid kui PR aspekte. Kuid: tuleb eristada objektiivset usaldusväärsust (võimalik, et võõra inforuumi poolt tüüritavast) avalikust arvamusest ning otsustavalt ning reaalajas juhtida võimalikku lõhet nende vahel (mainekujundus, psühholoogiline kaitse).
  10. Punktide 8 ja 9 puhul tuleb eraldi ning spetsiifilise ründevektorina käsitleda valimisprotsessi kuvandit. Küber- ja inforuumis toimiva tiheda seostatuse ja positiivse tagasiside tõttu (Norbert Wiener, “Küberneetika”; Charles Perrow, “Normal Accidents”) on sündmustele tekkiv tagasiside sageli ülevõimendatud või -kriitiline (füüsika, mitte hinnangu mõttes), selle kogus ja mõju on sageli ennustamatud.
  11. Lõpuks, isetekkeline või sihilike memeetiliste jõupingutuste abil kujundatud (alternatiivne) sõnumi- ja kultuuriruum (memeetiline ruum), kus mingid valimisviisid või konkreetsed valimistavad sihilikult kängitsetakse religioosse tabu staatusse. Näitena olgu esitatud kiipkaart=666 meem, ja sihilikult kujundatud “Saatan valib Internetis” meem, milliste nähtuste tõrjumine intellektuaalsete argumentide abil osutub sama võimatuks kui katoliiklase ümberveenmine armulaua või pihi tähenduses.

Eesti i-hääletuse olulised iseärasused

Tuginen nüüd eespool esitatud 11-punktilisele mudelile ning toon esile Eesti valimiste, eriti ja eelkõige i-hääletuse olulised erisused (idiosünkraasiad), mis on meil Eestis e-hääletust võimaldanud ning mis on enamjaolt needsamad, mis mujal seda ei pigem ei võimalda.

A) Eesti kodanikud usaldavad oma riiki (või valitsust, oleneb tõlkenüansist) ning ei taju neid kumbagi nuhi, külakurnaja või vaenlasena. Tegemist on isegi Lääne tsivilisatsioonis (Idast rääkimata) küllaltki haruldase fenomeniga (excl CH, FI, NO ja ehk veel mõned üksikud riigid).

B) Eestis on elanikkond lõpliku täpsusega loetletud ning reaalaja lähedaselt peegeldatud riiklikesse registritesse (sünnid, surmad, elukohavahetused). Isikusamasuse kontrolliks vajalikud ressursid (LDAP) on avalikud (mõnes teises riigis tajutaks säärast ülesehitust kirjeldamatu tabuna). Ent manipulatsioonid nimekirjadega (valijad, kandidaadid) pole Eestis keskse reaalajalise registri tõttu põhimõtteliselt võimalikud. Lahenduse hinnaks on Lääne-Euroopale kultuuriliselt sobimatud kompromissid elanikkonna “näiva” privaatsuse osas.

C) Eelmisele asjaolule toetudes ning USA päritolu tugevale krüptograafiale tuginedes on loodud isikute kaugtuvastamise (remote identification) süsteem (PKI), milles riik garanteerib baasidentiteedi tõsikindluse, ning see süsteem hõlmab ka omakäelise allkirjaga võrdsustatud e-allkirjastamise lahendust. Teisisõnu, peale Eesti polegi ühtki riiki, kus I tehnoloogiline baas ning II selle levik üheskoos võimaldaksid sooritada üleriigilist turvalist i-hääletust (igaühe kodusest arvutist). Esineb riike, kus tuvastussüsteem eksisteerib (FI), kuid kus tuvastusvahendite levik üldvalimisi paraku ei võimalda. On riike, kus internetihääletus on eelistatud või katsejärgus (CH, FR), kuid kus puudub turvaline tuvastussüsteem, sestap eksperimenteeritakse nende tuvastusviisidega, mis on olemas. Puudustest: meie lahenduse tagajärjeks ehk memeetiliseks hinnaks on suuresti põhjendamatu “vanaema sundimise” ja “vanadekodude/sõjaväeosade” (Granny Farming) kriitika, mis kuulub eetika, kultuuri või sotsiaalvaldkonda ning üldsegi mitte valimistehnoloogia skoopi.

D) Eesti on tõestanud, et ta suudab oma riiklikult olulisi infosüsteeme Internetis jätkusuutlikult pidada viisil, et neid pole võimalik distantsilt kübervahenditega kompromiteerida, ei tegelikkuses ega ka kuritahtlikult konstrueeritud alternatiivses reaalsuses. Selle omaduse vältimatuks eelduseks, vähemalt meie tingimusis, on olnud X-tee koos eID kaugtuvastuse / allkirjastamisega (p A, B ja C ).

E) Eesti i-hääletus on unikaalne ja pidevalt arenev (tagasisidet ja kriitikat arvesse võttev) tehniline lahendus, mis suudab piisavalt hästi tagada vastuolulisi nõudeid hääle salajasusele ning hääletuse terviklusele (põhjustel p A, B, C ja D). Puudustest: meie itimeeste ja krüptoloogide seas leidub siseopositsioon, kes arvavad, et süsteemi täiustamine võiks toimuda veel märkimisväärselt kiiremini.

F) internetihääletuse keskne infrastruktuur on süsteem, mis püstitatakse vaid hääletuse hetkeks, mille lähtekood on põhiosas avalik, mis on korduvalt auditeeritud ning mille serverid paiknevad riigi/valitsuse täieliku (!!!) kontrolli all asuvas võrgusegmendis. Selle ja mõne teise riskihaldusmeetmega (pidev modifitseerimine, valimisäpi publitseerimine alles vahetult enne sündmust) on reaalse oponendi jaoks reaalne rünnak muudetud heidutavalt keerukaks. Meie lahenduse hinnaks on võimalik kultuuriline sobimatus näiteks USA oludega (kompromissidekohad, mida suurriik ei kordaks, vaid maksaks suurusjärgu-kahe võrra üle).

G) Eesti i-hääletuse turvalisus on suuresti tagatud asjaoluga, et selle toimimiseks vajalik kliendipoolne infrastruktuur (kaardid, lugerid, tarkvara) pole mitte spetsiaalselt i-hääletuse jaoks üles seatav laadapalagan, vaid miski, mis on igapäevaselt käigus tööprotseduurides, panganduses jne (jooksvaid numbreid vt ID.ee kodulehelt). Kui Eesti e-eluviis eviks olulisi tehnilisi turvaauke, võimaldanuks see ammu põhja lasta kogu meie panganduse, rääkimata riigi üleüldisest toimimisest – meil teatavasti polegi enam piisavalt palju teeninduslette. E-hääletus on Eestis lihtsalt üks paljudest riiklikest e-teenustest omasuguste pikas reas. Seetõttu saame eeldada, et võimalikud tehnoloogilised vead tulevad välja juba põhikasutuse käigus, milleks e-hääletus kindlasti ei ole. Siit omakorda tuleneb kindlustunne, et operatiivolukorra muutus valimiste perioodil on ühtlasi nii monitooritav kui märgatav.

Q) Mõned ülimalt tehnilised kaitsevõtted, näiteks SSL/TLS (https) veebisessiooni initsieerimine kaardil leiduva krüptomaterjali, mitte lambist genereeritud tokeni baasil, mis automaatselt nurjab terve hulga MitM ründeid. Infoturblased teavad, millest jutt, Läänele pole me seda kaitsemeedet veel eriti reklaaminud.

W) Muud põnevad tähelepanekud, näiteks heuristiline eeldus, et “elanikkond suudab tõhusalt kasutada internetti, arvuteid ja identiteedikandjaid” (olen mitmel konverentsil näinud, kuidas kujund “kiipkaarti hoidev tädi Maali” tekitab siirast hämmastust). Või siis läänemaailma šokeeriv asjaolu, et ka paberhääletamise puhul on teada hulganisti riske ja rünnakuid valimisprotseduurile (valimiskasti terviklus, karusell jne). Lääne ühiskondades on demokraatlikud valimised ära kanoniseeritud ning petutehnoloogiatest vestlemine on tabu (see paraku põhjustab võltsturvalisuse tunde).

X) Eesti mudelil on ka märkimisväärseid puudusi, keerukus ja erinevused eelkõige. Olulised semantilised erinevused enamikest lääneriikidest ei võimaldada siinseid lahendusi üks-ühele lääne mudelile üle kanda ega arusaadavalt selgitada. See komplitseerib omavahelist võrreldavust ning soosib memeetilisi ja semantilisi ründeid meie internetihääletusele. Mark Twaini tsiteerides, kui moslem peab nelja naist, siis “see on ju peaaegu nagu kahenaisepidamine”. Nii saab oponent omaenda mõistesüsteemi kasutades panna samasse patta Hollandis aastal 2009 keelustatud valimismasinad (kioskid, DRE) ja meie internetihääletuse, labasel põhjusel, et mõlemi tähistamiseks kasutatakse sama terminit – e-hääletus. Keskmine heasoovlik kõrgharitud väliskülaline oma taustateadmistega ei ole võimeline Eesti i-hääletust endale adekvaatselt visualiseerima, tal puudub terve komplekt vajalikke taustateadmisi. Ka kõrgharidusega inimese puhul on vaja tundide või päevade pikkust selgitusvälpa, see aga pole juhusuhtluses kuigi realistlik suhtlusperiood.

Y) Kättesaadavaid analoogiaid teadmussiirdeks on aja jooksul siiski leitud. Näiteks “isikukoodi” on tark selgitada “Sinu digitaalse nimena” ning abstrahheeruda lääne-eurooplasele kultuuriusundiliselt vastuvõetamatust inimeste nummerdamise ajaloost. On hea teada, et i-hääletuse selgitamiseks kasutatav kahekordse ümbriku süsteem on üks-üheses vastavuses Saksamaa tigupostise eelhääletussüsteemiga, mille resulteeriv turvalisus on kaheldamatult RSA krüptograafiast madalam. Sääraste mõisteliste analoogiate otsimine ja leidmine on sõprade ja vastastega vestlemisel üha olulisem.

i-valimishirmude analüüs riigiti

CH

Šveitsi eripäraks on kodanike erakordselt kõrge usaldus oma riigi ja valitsuse vastu (p 1). See on võimaldanud eri kantonites korduvalt eksperimenteerida e/i-hääletuse erinevate tehnoloogiatega. Tänaseks on riik sisuliselt asendanud ülimalt levinud (80% kasutatava) meilitsi eelhääletussüsteemi i-hääletussüsteemiga. Autentimismaterjal ja verifitseerimismaterjal saadetakse inimestele igakordselt paberposti teel.

Šveitsi kodanike kultuuriline resistentsus irratsionaalse mõju suhtes (p 11) näib olevat piisavalt kõrge, seda tingimustes, kus rünnakud CH valimissüsteemile pole üldse lakanud.

Šveits arendab üldkasutatavat e-identiteeti, kaasatud on näiteks Kaspar Korjus Eestist. Üks Šveitsis kasutatavatest süsteemidest on katsetatava demona kättesaadaval siin.

Šveitsi arvukatele hääletussüsteemidele on määratud maksimaalselt kaasatava valijaskonna piir (protsentides), olenevalt verifitseeritavuse tasemest.

DE

Saksamaa puhul on i-hääletuseks vajalik tehnoloogiline baas (tuvastusvahendid) peaasjalikult olemas (küll killustatud kujul), kuid puudu on kultuurilisest julgusest ajalooliste tabude ületamisel. Valimismasinaid on edukalt katsetatud perioodil 1998–2005.

DE iseärasus: kahe valija kaebuse põhjal konstitutsioonikohus keelustas igasuguse e-hääletamise kuni „kõik valijad sellest aru ei saa nii, et igaüks suudaks vaadelda“. Küsimus oli just valimismasinate turvalisuses, i-hääletuse osas ametlikku seisukohta pole.

Saksamaa konservatiivse suurriigina ning potentsiaalse regionaalse hegemoonina on väga häiritud punktidest 1, 6, 7, 8, 10 ja 11, mida ta ei suuda avalikkusele rahuldavalt selgitada, osalt on põhjuseks adekvaatse ohumudeli puudumine ja suurriiklik inerts nagu ka USA puhul.

Saksamaa puhul on hea võrrelda meie ja nende eelhääletust kirja teel kuivõrd meie i-hääletus on nende eelhääletuse digitaalne teisend. Isegi osad VVK juhendmaterjalid on muutusteta kasutatavad. Sakslastele on kasulik selgitada, et meil käib eelhääletamas 1/3 valijaid.

FI

Soomes on e-hääletust piiratud ulatuses katsetatud aastal 2008. Saadi vastuolulised tulemused, kuivõrd “summa ei läinud kokku” ning täpsuse puudumine on sealses kultuuriruumis kolepaha asjaolu. I-hääletuse üle käib Soomes hetkel tihe arutelu, just käivitati teostatavusuuring. I-hääletuseks vajalik tehniline infrastruktuur on Soomes tegelikult täiesti olemas (PKI + ID-kaart + Palveluväylä), kuid riikliku identiteedikandja levik madalam kui meil. Soome ajakirjandus on seni takerdunud i-/e- termini lahtimõtestamisse.

Hinnang: Eesti pole suutnud oma interneti-hääletuse semantilist tähendust üle kanda isegi suhteliselt lähedasse kultuuriruumi.

FR

Prantsusmaa on i-hääletust kasutanud aastast 2007 ning seal tähendab see turvalist https veebisaiti, mille kasutajatunnuseid ja paroole paraku levitati kodanikele meili ja SMSi vahendusel. Sellise lahenduse turvariskid on teada juba 2004. aasta USA sõjaväe kaughääletustest nimega SERVE ning säärastena ka hästi dokumenteeritud. Meilirünnete ja GSM SS7 turvaaukude valguses ei ole Prantsusmaal ju tegelikult kasutaja tõsikindla kaugtuvastamise protseduuri, mistõttu otsus määramatuse tingimusis need hääletusviisid peatada tundub igati asjalik. Samas tuleb kiita prantslaste julgust moodstate hääletusviisidega eksperimenteerimisel.

NL

90ndate lõpuks kasutas Hollandis kioskitüüpi (DRE) hääletusmasinaid kuni 90% elanikkonnast. Aastatel 2006–2007 läbi viidud poliitilise kampaaniaga viidi NEDAP hääletusmasinad käigust ja e-hääletus lõpetati 2009.

NL olukorda komplitseerivateks teguriks on veel ka aastal 2011 aset leidnud DigiNotar skandaal, mis oluliselt häiris NL e-riigi toimimist ning mis senimaani mõjutab NL IT riskihinnanguid.

Ei e- ega i-valimist Hollandis hetkel ei ole ega paista tulevat. Aasta 2017 probleemiks said hoopis turvavead tavavalimiste tulemusi konsolideerivas tarkvaras, need avastati kõigest kuu aega enne eelseisvaid valimisi. Asjakohane audit koos vigade parandusega tähendanuks valimiste edasilükkamist, mis aga poliitiliselt laetud situatsioonis ei osutunud võimalikuks. Mistõttu NL valitsuse otsust – lugeda hääled kokku käsitsi – tuleb tuntava välismõju tingimustes (sealne viide [0] (p 11)) ning Alt-Right olukorras (p 1) , lugeda täiesti mõistetavaks ja adekvaatseks.

NO

Norras on e-hääletust piiratud ulatuses edukalt katsetatud. Eksperimendid lõppesid, sest valimised võitis e-valimisi vastustav partei. Lõpetamise ettekäändeks kasutati mõningaid tehnilisi viperusi – suhe tavahääletusega ei olnud arvesse võetud ning osadel isikutel õnnestus hääletada kahekordselt (Eesti vaatevinklist on tegu elementaarse disainiveaga). Norra seega põrkus tavapärastele esmaraskustele olukorras, kus Vassili ja Solvaku kohaselt näiteks i-hääletussüsteem vajab stabiliseerumiseks 3–4 toimumiskorda. Kahju, sest tegu oli lootustandvate arengutega, millest isegi Eestil oli õppust võtta.

UA

Ukraina presidendivalimistel 2014 tehti õpikurünnak valimisprotseduuride ning valimiskomisjoni mainele, kasutades punktides 6, 7, 8, 9 ja 10 kirjeldatud printsiipe ning ülevõimendades olukorda oponeeriva meediaga (punkt 11). Rünnaku sooritamise algne vektor (küber, p 6 ja 7) pole saavutatud tulemuse kontekstis isegi mitte oluline.

Ühtlasi on Ukrainas käivitatud Eesti ID-kaardi taoline PKI süsteem, mis annab väga hea tehnilise algme tulevikuks.

US

USA valimiste parim omakriitika (neljaosaline kirjutis) on saadaval siin. USA oludes on puudu praktiliselt kõik edukaks i-hääletuseks vajalikud eeldused, eelkõige aga toimiv kaugtuvastus ja turvaline valijate register [vt SERVE, 2004]. Ühtlasi ilmnes viimaste presidendivalimiste ajal lisaks teadaolevatele riskidele (2 ja 4) ka komplekt USA-le seni tundmatuid riske nagu 1, 6, 7, 8 ja 10. Lisandus valimisteväline mõju – pr Clintoni ning DNC meiliserverite madal turvalisus, mis kübervaatekohast oli tegelikult vanamoeline ründeoperatsioon (Eesti läbis sama ohufaasi u 3–5 aastat tagasi) ning millel USA valimissüsteemidega otsene seos puudus.

USA põhiprobleemiks hetkel on ajakohase ning pädeva globaalmudeli puudumine, riskide kaardistamatus, suurriigi puhul paratamatu tehno-organisatoorne inerts koos sellest johtuvate irratsionaalsete poliitiliste hirmudega (loe: muudatused on hakanud toimuma suurte riikide jaoks talumatult kiiresti).

Lõppsõna asemel

Riike, kus e- või isegi i-hääletust on planeeritud või pruugitud, leidub oluliselt rohkem, vt näiteks IE, KE jpt. Laiem ülevaade on saadaval Wikipedias. Lugemisel tuleb arvestada, et sealne terminoloogia ei erista e-hääletust i-hääletusest. Kohati kasutatakse i-hääletuse sünonüümina väljendit “online voting“, mis on Eesti i-hääletuse selgitamiseks siiski vaid poolpiisav, kuivõrd ei selgita turvalise kaugtuvastuse olemust.

Alles jõuti küber viiendaks sõjapidamisdomeeniks kinnitada, kui selgus, et interneti ja küberi seljas ratsutades on saanud megaventilaatori seljale sõjaväelaste vana tuttav – infosõda. Infosõda elab praegu üle täielikku renessanssi ning ei imestaks, kui see varsti kehtestatakse eraldi (nullinda) sõjapidamisdomeenina. Ent infosõda peab siiski silmas vaenlase lühiajalist eksitamist – üksnes senikaua, kuni on taktikaliste eesmärkide saavutamiseks vaja.

Moodsaimad ründed ründavad inimolemust, püüdes alt ära lüüa semiootilisi, kultuurilisi ja religioosseid tõekspidamisi ning väärtusi. Memeetiline sõda võib olla väga pika vinnaga, ettevalmistus konfliktiks võib kesta mitu põlvkonda ja isegi ületada ühe põlvkonna eluea.

Nüüdisaegsed valimised peavad kõiki neid uusi reaalsusi arvesse võtma. Selleks on vaja valimiste adekvaatset mudelit (saamaks aru, mis valimisi üldse ohustab või mõjutab) ning reaalajas toimetavaid spetsialiste kõigi nimetatud ohtudega toimetulemiseks. Nüüdisaegne e-riik kindlasti suudab moodsa aja ohud valimistele nii üles loetleda kui ära tõrjuda, kuid selleks on vaja mõtlemise muutust. Suurriikide pealt juba paistab, et “šokeeritud olemise” ja irratsionaalse hirmuga kaugele ei jõua – heal juhul ehk tagasi vanade ebaturvaliste pabervalimiste juurde.

Eestis toimuvad kohalike omavalitsuste valimised tänavu oktoobris. Vahepealset aega tuleks kasutada meie e-hääletuse (ja selle eeliste) selgitamiseks meile sarnanevate väärtustega välisriikides.

Viited

Välisriikide esindajatele väljajagamiseks sobib järgmine e-hääletuse teemaline lingikomplekt (mostly in English):

  1. An overview of voting methods in Estonia: http://vvk.ee/voting-methods-in-estonia/
  2. E-voting concept security: http://www.vvk.ee/public/dok/E-voting_concept_security_analysis_and_measures_2010.pdf
  3. Practical Security Analysis: http://cyber.ee/uploads/2013/05/Buldas_practical_e_voting_final.pdf
  4. E-voting in Estonia: technological diffusion: http://skytte.ut.ee/sites/default/files/skytte/e_voting_in_estonia_vassil_solvak_a5_web.pdf
  5. Bias Report: http://www.ut.ee/kristjan.vassil/wp-content/uploads/Bias_report.pdf
  6. Log Analysis of Estonian Internet Voting 2013/2015: https://eprint.iacr.org/2015/1211.pdf
  7. Elections at Soviet times: http://www.mnemosyne.ee/wordpress/wp-content/uploads/2011/06/Olev_Liivik_-_Supreme_Soviet.pdf
  8. RIA – as an organization (Authority/Amet): https://www.ria.ee/en/about-estonian-information-system-authority.html
  9. Short description of i-voting (An answer to OSCE/Serve criticism): http://research.cyber.ee/~jan/publ/evote2011.pdf
  10. Criticism by Haldermann and Kitkat: https://www.verifiedvoting.org/wp-content/uploads/2014/10/Estonia_2014_IVotingReport.pdf
  11. General statistics about Estonian elections – (nice infographics but in Estonian only): http://www.vvk.ee/valijale/e-haaletamine/e-statistika/
  12. An independent blog describes 2015 elections nuances (nice pics but in Estonian only): http://www.evalimised.ee/e-valimiste-statistika/
  13. Tanel Torn, Master Thesis: https://digi.lib.ttu.ee/services/copycat-pdf.php?ID=1781

E-valimised on (liiga) turvalised

Anto Veldre kirjutab, et sel nädalal algas järjekordne rünnak e-valimiste vastu: taas poliitiline, mitte tehniline.

Infoturbes kasutatakse terminit “responsible disclosure” – see tähendab, et turvavea avastaja ei torma vastleitud, ohtliku augu abil panka röövima või raha välja pressima, vaid kontakteerub tarkvara loonud ettevõtte võtmeisikutega, et neile selgitada, kus täpselt auk on, milline see välja näeb jne.

Selline praktika on mõistlik, sest mõne firma jaoks võib leitud turvaaugu parandamine olla väga kulukas, mistõttu on sel ettevõttel majanduslikult kasulikum augu olemasolu võimalikult kaua varjata.

Sellise venitamise vastu aitabki “responsible disclosure” poliitika – alul antakse vigase tarkvara autorile vea parandamiseks aega (kuu või paar), kuid määratakse kuupäev, millal vea tehniline kirjeldus avalikustatakse. Nii saavad hundid söönuks, lambad jäävad terveks.

Praktikas toimub see tavaliselt nõnda, et eksperdid, kes turvanõrkuse avastavad, edastavad sellest täpse, kiretu ja tehnilise kirjelduse autorile (seadme või tarkvara tootjale). Näiteks teatab kodanik X, et firma Y programmis Z on nii-ja-naamoodi leitav turvaauk.

Lisatakse tehniline info, võrguliikluse salvestus, käsurea pilt jm vajalik, et teised osapooled tema leitud vea üles leiaksid ja parandada saaksid. Pädev spetsialist vaatab vea kirjeldust ning saab kohe aru: “Oi näe, ongi auk”. Seejuures suudab raportit uuriv spetsialist kirjelduse järgi talitades saavutada samasuguse (vigase) tulemuse, kui vea kirjeldaja.

Kuid kui vea täpne kirjeldus puudub, pole turvaviga võimalik ei kinnitada, kontrollida, ega ka parandada. Kinnitagu vea “avastaja” jooniste, multifilmide, poliitikute sajatuste või siberi šamaani trummipõrina saatel, et homme lõpeb selle vea tõttu maailm.

Seevastu PR-intsidendid on hoopis teistsugused loomad. Need ilmuvad välja hoopis teisiti: ajaleheartikli, anonüümse telefonikõne või sõbralt tulnud vihjena. PR-intsidendi puhul esitatakse väide, et absoluutselt kõik on tuksis, turvaauk on maakera suurune, kuid väite kontrollimiseks vajalikku tehnilist teavet ei anta.

Maailmalõppu kuulutavad lood meediaväljaandes koguvad aiva klikke, kuid viga parandada soovivail ekspertidel süüdistajaga sama laua taha istuda ei õnnestu või kui õnnestub, siis sisulist lisateavet neilt ei tule. Aga meediasse paisatud “ohuhinnang” hirmutab tõhusalt, “maailmalõpp” läheneb hoogsalt!

Maikuu teise laupäeva õhtul eikusagilt ilmunud väiteleht teatas, et nüüd olla Eestis e-hääletusega pahasti ning pressikonverents toimuvat esmaspäeval kl 11. Juhtumi kohta oli ühtlasi juba koostatud ka projektipõhine väitesait.

Kuigi pühapäeval oli väitesait veel suletud, selgus hiljem, et seltskond “sõltumatuid asjatundjaid” olla auditeerinud Eesti e-hääletuse süsteemi, leidnud selle olevat “šokeerivalt ebaturvalise” ja valimistulemused “lihtsasti manipuleeritavad” ning esitasid Eesti vabariigile ultimatiivselt tungiva soovituse e-valimised ära jätta.

Tsiteerin: “We urgently recommend that Estonia discontinue use of the system.” ja edasi “…use of the Estonian I-voting system should be immediately discontinued.

Sõbralikult pakutakse ka (tellijale ilmselt sobiv) lahendus: “Estonia has a well organized paper voting system which they should revert back to.” Ehk siis keegi “ekspert” saabub väljamaalt ning käsib Eesti Vabariigil ühe riikliku infosüsteemi sulgeda. Kohe! Arusaadavalt saab nõudmise adressaadiks olla üksnes Eesti Vabariigi valitsus, vähemal tasemel pole seaduse alusel läbiviidavat internetihääletust lihtsalt võimalik ära jätta.

Tehnilist teavet leitud vigade kohta lubatakse anda, aga… alles pärast valimiste lõppu!?

Miks on paha, et e-valimised liiga turvalised on? Sest selliste valimiste manipuleerimine tavalisel moel on väga keeruline. See aga ei sobi osapooltele, kes harjunud oma tahtmist saavutama kehtestatud reegleid eirates. Näiteks on e-valimiste puhul välistatud grotesksed “hääletamised”, mida eelmisel nädalal nägime Ida-Ukrainas ning mille “tsiviliseeritumaid” variante sotsialistliku ühiskonnakorra ajal elanud inimesed hästi mäletavad.

Ehk rünnatakse e-valimisi seepärast, et selline võltsimine oleks meelepärane ühele või mõnele Eestiski tegutsevale erakonnale? Seejuures ei pruugi “tanki pandud” väljamaised asjatundjad üldse mõistagi, et nad pole siin mitte oma tehnilise taibu vaid poliitiliselt sobiva (kuigi tehniliselt ebapädeva) sõnumi pärast.

Väidetavad turvaaugud

Esimene suurem etteheide asjatundjate grupilt kõlab, et koduarvuti võib olla nakatunud pahavaraga. Pange tähele, võib olla! Eesti on üsna kõrge küberkorralikkusega riik. Tõsi, meil on küll pahavara liikvel pisut enam kui Soomes, Taanis või Singapuris, kuid siiski asume me oluliselt ees endise idabloki riikidest.

August. Kui lugeda e-hääletuse turvaanalüüsi punkti 9.2.4, avastame, et hääletaja arvuti ründamise võimalus on teadvustatud juba aastal 2003. Mida selle teadmisega peale hakati?

Demokraatlikus riigis pole võimalik, et riigivõimu teostaja läheb kuidagi, kasvõi virtuaalselt, inimese koju ja hakkab valimisõigusliku kodaniku kompuutris korda looma, sealt näiteks pahavara välja rookima. Seepärast on see risk teadvustatud ja märgitud kui AKTSEPTEERITUD risk (vaata seletust siit).

Iga valija ülesanne on oma arvuti (vähemalt) valimiste ajal puhtana hoida! Eriti hästi aitab muidugi PIN-padiga kaardilugeja pruukimine söögi alla ja söögi peale, sest nõnda saab välistada PIN-koodide jõudmise (nakatunud) arvutisse. Ilma PIN-koodideta pole aga pahavaral ID-kaardiga midagi teha. Olgu see kaart siis kasvõi lugejasse kinni kiilunud.

Ehk siis – meile teadvustati kellegi asjatundja üldsõnaline hinnang, et hääletaja arvutis VÕIB olla viirus. No võib jah. Aga viisaka ja arvutihügieenist lugupidava inimese arvutis viirust siiski pole. Ja kui keegi kardab, et on, siis saab valimispäeval valimisjaoskonda rännata või PIN-padiga kaardilugejat pruukida. Igaühe oma valik – kas ta teab, mis ta arvutis toimub või käib valimispäeval kasti juures.

Teine väga põhimõtteline etteheide on, et DVD-kettad, mille pealt e-hääletussüsteeme installitakse, VÕIVAD olla nakatunud. See on TEOREETILISE vektorina täitsa arvestatav. Nagu ka valimistega samal ajal aset leidev, Eesti elektrisüsteemi halvav torm, rongiga saabunud neutronpommi plahvatus Balti jaamas või Päikese ootamatu kustumine.

Hästi. Kuid kuidas DVD-ketas ja / või selle peal olev tarkvara nakatub ja nakatab? Kas räägime failisüsteemi ründest, tarkvara rikkumisest, kompilaatori käkkimisest või millest, kallid e-valimiste asjatundjad?

OK. Oletame, et ongi “mingi rünne”. Kes valimiste IT-meeskonnast on need reeturid, kes valetavad, et ketaste image’te räsid klapivad, kuigi need võrdlemisel ei klapi?

Tänaseni pole rünnete tehnilisi kirjeldusi jagatud ei VVK, meie ega teadaolevalt mitte kellegagi.

Seltskond asjatundjaid olla minuthaaval läbi vaadanud VVK eelmise aasta e-hääletuse auditi videod ning leidnud videotelt mõned huvitavad sündmused:

  1. Debian Linuxi pakette laeti kohast, mis asjatundjaile ei meeldinud.
    Ehk oleks pidanud distro tõmbama mõnelt .ru või .su aadressilt?
  2. Töölaual olla nähtud ühe pokkerisaidi ikooni (oli see ikka pokkerisait või mingi “pokkerisaidi ikooniga sarnanev ikoon”?).
    Kahtlemata diskrediteerib sellise ikooni paiknemine töölaual selle raali kasutajat, tema riiki ja Euroopa Liitu.
  3. Ühe serveri laadimisel ei võtnud RAID kontroller kohe esimese hooga kettaid külge.
    Ilmselgelt oli RAIDi kontroller nakatunud BadBIOSi ja FOXACIDiga korraga! Lisaks Bundestrojanerile.
  4. Seinalt paistis kohaliku külalistevõrgu WiFi parool.
    Karm lugu, sest valimiste serverid on ju (koos kõikide külaliste telefonide ja raalidega) kindlasti sellesse WiFi võrku ühendatud, ILO pordid meelalt õieli.
  5. Auditi kaameramees filmis administraatorit nii, et tolle parool jäi filmile.
    (Parandus: filmitavana on end tuvastanud mitte administraator, vaid valimiste vaatleja Virgo Kruve, kes parajasti valimisrakendust katsetas.)
    Selle vihje eest küll aitäh – tõhustame kaameramehe instruktaaži – kuid see on abiprotsessi (auditi), mitte põhiprotsessi (valimiste) viga.
    Tõik, et e-valimiste meeskond vahetab in corpore kõik oma PIN-koodid ja paroolid valimiste järel ära, pole siinkohal oluline.

Aga… kuidas nende viie leiu põhjal jõuti järeldusele, et kogu e-hääletuste serverisüsteem ongi praktikas välisriigi (täpsemalt Venemaa) poolt kompromiteeritud ja nii ebaturvaline, et e-valimised peab ära jätma?
Korratavate tegevuste kirjeldust, millised käigud, üksikult või eraldi sellise stsenaariumi realiseerumiseni viivad, pole asjatundjaskond esitanud.

Võrdluseks meenub kohtumine juulis 2013, kus avalikustati e-hääletuse lähtekood. Kahetunnise koosistumise käigus sai e-valimiste meeskond Eesti avalikkuselt toona oluliselt rohkem konstruktiivset tagasisidet kui praegu Kitcati meeskonnalt kolme päevaga.

USA vs Eesti

Põhja-Ameerikas erineb suhtumine mistahes e-valimistesse Eestist oluliselt. Esimesed sealsed elektroonilise hääletamise katsetused olid turvaaukudega rikkalikult varustatud. Turvaspetsialistid murdsid sisse Dieboldi valimismasinatesse (sihuke kioski-laadne agregaat) ning kõik see oli meil Eestis e-hääletust käivitades kenasti teada. Meie suhtumine e-hääletusse oli algusest saadik positiivne või vähemasti ettevaatlikult neutraalne. USA suhtumine e-hääletusse on jäigalt negatiivne. On terved spetsialistide koolkonnad, kes on ideoloogiliselt veendunud, et e-hääletus on saatanast.

Kas elektrooniline- või internetihääletus? Neid kaht eristama on ameeriklasedki õppinud alles paaril viimasel aastal. Internetihääletust (mida meie nimetame e-hääletamiseks) ei saaks nemad omas riigis põhimõtteliselt läbi viia, sest neil puudub meie ID-kaardi ja PKI taoline mehhanism. Asi pole tegelikult mitte selles füüsilises, plastmassist ID-kaardis, vaid hoopis riiklikult toetatud PKI süsteemis (avaliku võtme taristus, inglise keeles Public Key Infrastructure), mis võimaldab kaardi omanikku elektrooniliselt kaugtuvastada ja tema antud elektroonilise allkirja autentsuses veenduda. Just nimelt see Sertifitseerimiskeskuse pakutav teenus on “võluvärk”, mille abil iga Eestis tegutsev pank, maksuamet või väikeettevõtte veebileht saab isiku elektrooniliselt tuvastada.

See erisus põhjustas ilmselt ka varasematel Keskerakonna korraldatud üritustel toimunud naljakaid olukordi, kui lavalt kuulutati valimismasinate ründamise näidete põhjal “tõde”, et internetivalimised on saatanast. See on sama, kui võrrelda metssiga hambaharjaga – mõlemad on ju karvased!

Meie pabervalimiskogemus pärineb aga nõukogude ajast: kõigis valimisjaoskondades valiti “kommunistide ja parteitute blokki” tasemel 97–99% ning ükski vanaisa ei soovi meenutada, kuidas täpselt säärane resultaat saavutati: kas viina, altkäemaksu või KGB šantaaži abil. Igatahes oleme tuttavad olukorraga, kus jaoskondades saavutatakse vajalik resultaat nimelt mõnele parteile lojaalsete inimeste abiga. Vastupidi arvutile, mis reeglina altkäemaksu ei võta.

Seega – meie, eestlaste ajalooline kogemus on, et hoopis paberhääletust on lihtsam võltsida.

Teoreetiline vs praktiline turvalisus

Ilmselt nad Läänes usuvadki senimaani, et verifitseeritud turvalahendusi koos tagaustega ongi võimalik joonestuslaua taga valmis treida ning siis muutusteta aastakümneid kasutada. Ometi pole see enam ammu nii. Seoses arvutite arenguga on tehnoloogia keerukus kasvanud mitme suurusjärgu võrra. Pinguta, palju tahad, ikka jääb mõni viga sisse, tahtlikest lõksudest rääkimata.

Joanna Rutkowska on väga tabavalt kirjutanud sellest, et Sinu arvuti klaviatuur, ekraan ja hiir kuuluvad… kellele? Ei, mitte Sulle endale, vaid tarkvaratootjale. Tehniliselt saab too igal ajahetkel Sinu identiteedi üle võtta ja Sinu nimel sooritada mida iganes. Ükski kaasaegne laiatarbeoperatsioonisüsteem pole konstrueeritud vastupidist nõuet arvesse võttes. Seega – oma arvutit saame usaldada vaid teatud piirini. Praktikas Microsoft ja Apple siiski inimeste toimetamistesse ei sekku ning võime vaid oletada, miks.

Samad lood on meie arvutite riistvaraga. Neid tehakse kusagil Hiinas või Lõuna-Koreas ning me ei saa välistada, et emaplaadil ei sisaldu mõnd tagaust.

Mõlemad väited näivad nii kohutavatena, et arvutite kasutamise peaks justnagu lõpetama? Tegelikkus pole siiski nii hull. Vaatamata OS ja riistvara riskidele on võimalik selle peale siiski ehitada tarkvara ja protseduurid, mille omanik on Eesti riik ning sidekanal Internet. Igast riiklikult olulisest liigutusest jäävad logid, e-hääletust tagavad kümned IT-inimesed. Jah, kirjeldatud ohte peame arvestama, neid riskide hindamiste valemites arvesse võtma ning tarkvara arendades teadvustama.

Teoorias on turvaline e-hääletamine võimatu (vähemasti ameeriklased arvavad nii). Praktikas aga on arvuti riske paigatud väga erinevate meetmetega, alustades protseduuridest ja auditist ning lõpetades üksteise tegevuse üle valvavate inimestega. Eestis on e-hääletust läbi viidud juba 6 korda ning seni pole juhtunud ühtki turvaintsidenti.

Meie usume, et e-ühiskonnas ehitataksegi arvutisüsteeme teistmoodi. Ei usaldata ei arvutit ega tarkvara, nende otsa projekteeritakse süsteem, mis logib omi toiminguid ning mida omakorda valvavad inimesed.

Ka unustavad kallid väliskülalised ära pisukese pisiasja, et e-hääletuse puhul on võrgukiht, seire ja logid meie kontrolli all ja üldsegi mitte ründaja kontrolli all nagu nende laboris võis tunduda.

Teadustöö

Harri Hursti tutvustas ennast 12. mai pressikonverentsil kui sõltumatut turvaeksperti. Mis ta nüüd ikka nii väga sõltumatu on! Kaks korda osales ta Tallinna Linnavalitsuse korraldatud valimisüritusel “Saatan valib Internetis!”. Toona jäi ka kohalviibinud, pigem pensioniealisele publikule arusaamatuks, miks võrreldakse Eesti internetivalimisi mingisuguse võõrapärase elektroonilise hääletamisega, milleks vajaksime spetsiaalseid (Dieboldi) agregaate.

11. oktoobril 2013 toimunud foorumi "Saatan valib internetis" päevakava ajalehest Kesknädal. Esinejate seas on kirjas J. Alex Halderman, Harri Hursti ja Jason Kitcat
Pildil saatetutvustus Tallinna TV veebilehelt: "Poliitika õhtukool. Harri Hursti e-valimistest 1. osa – 13.05.2013"

Jason KitCat ja Alex Haldermann on avalikult teada kui e-, i- ja muude mittepabervalimiste vastased juba vähemalt viis aastat, aga ehk rohkemgi. Haldermann andis juba aastal 2011 ülikoolis kursust, mille moraal oli: ühiskond pole e-valimisteks valmis. No USAs täpselt nii ongi. Aga see eitus pole automaatselt rakendatav Eestile. Täitsa mõistame jänkide pettumust hääletuskioskites, täitsa saame aru, et nad soovivad omas riigis kioskivalimise vastu võidelda … kuid ehk saaks seda võitlust toimetada moel, et vahetusrahana ei tambitaks pulbriks väikest Eestit, kes me oleme sama ülesande endi jaoks täiuslikult ära lahendanud … tõsi, kultuuriliselt pisut teistsugustes tingimustes.

Kahele pundis viibivale tudengile on kogemus kindlasti osutunud huvitavaks: lastakse laboris maailma parima internetihääletussüsteemiga mängida ning komandeeritakse siis tollesse riiki ekskursioonile.

Omavahel öeldes, Jasoni saidis väljas rippuvad videod on õppematerjalina küündimatud. Kui samasuguse koolitükiga oleksid maha saanud IT Kolledži õpilased, saanuksid nad hinde F.

Aga, videost. Laual näeme justkui kolme säravate dioodidega serverit, ekraanil jooksevad (üliõpilaste jaoks) arusaamatud, võõrkeelsed kirjad. Aegajalt toimub kommenteerimata tegevus, ekraanil kuvatavates menüüdes tehakse valikuid, serverisse sisestatakse mingeid plaate jms. Lisaks siblivad arvutite juures tumedad kujud, kes tõstavad projektori ja serveri vahelist VGA juhet sinna ja tänna nii, et projektor kaamerat hästi pimestaks.

Võrrelge näiteks 3-minutilise ukseluku murdmise videoga (Youtube: “lock bumping”). Kui olete video läbi vaadanud, kas saaksite luku avamisega hakkama? Nüüd aga vaadake läbi Kitcati pea 12-minutiline video ja vastake küsimusele: kas suudaksite selle põhjal Eesti internetihääletussüsteemi sisse murda. Olen kindel, et vastate “ei”.

Kuid mis kõige tähtsam, Jasoni saidile pole lubatud PDF-kokkuvõtet endiselt ilmunud. Pidada olema redigeerimisfaasis ja üht-teist olevat veel ka tagataskus ning see esitatakse alles siis, kui valimised läbi!

Täpsustus: uuringu raport avalikustati veebilehel 17. mail 2014.

Mulle tundub see küll rohkem valimiste ärakorraldamisena hirmutamise abil kui teadustöö või vastutustundlikku teavitamisena (responsible disclosure) tegelikust turvaaugust.

Positiivne on, et Eesti internetihääletussüsteem on jätkuvalt turvaline ja juba paari päeva pärast on aeg oma kodanikukohust täita. Samas, aitäh väliskülalistele nende pisikeste pudemete eest, mis võimaldavad e-hääletuse protseduure tulevikus veelgi parendada. Kõik aga, kes kodus viirustega hädas, marss valimispäeval valimiskastide juurde!

Meil on maailma ainuke töötav üleriigiline e-hääletus! Olgem uhked!
(Täiendus: üleriigiline, aitäh Ü.M.)

Inglise keelt kõnelevate sõprade rahustamiseks