Postinumeroiden noutaminen Pythonilla webistä

soppakokeilu

Tein tuossa huvikseni pienen funktion, jolle annetaan parametreinä katuosoite ja kunta. Se palauttaa sitten listamuodossa kadut ja ko. postinumerot. Oletuksena esim Helsinginkatu Helsingistä palauttaa:

['Helsinginkatu', '56', '58', '00260', 'HELSINKI', 'Helsinki']
['Helsinginkatu', '1', '19', '00500', 'HELSINKI', 'Helsinki']
['Helsinginkatu', '2', '16', '00500', 'HELSINKI', 'Helsinki']
['Helsinginkatu', '21', '25', '00510', 'HELSINKI', 'Helsinki']
['Helsinginkatu', '18', '50', '00530', 'HELSINKI', 'Helsinki']

Jossa ensin katu, sitten katunumeroiden ala- ja yläarvot (jos on, muuten tyhjää), postinumero, postitoimipaikka ja kunta.

Seuraavaksi pitää kehitellä suodatus katunumeroiden perusteella, niin saa listaa lyhyemmäksi. Jos katuosoitteen numerokin on annettu, niin periaatteessahan ei pitäisi tulla kuin yksi postinumero.

Main-funktiossa oleva pääohjelma kyselee tietoja, ja jos laittaa pelkän katuosoitteen, niin kuntana on Helsinki. Pelkän katuosoitteen syöttämällä lopetetaan.

Koodista sitten pitää korvata "--->" neljällä välilyönnillä " ", koska tämä foorumi sotkee sisennykset.

Käytin Python 3:sta ja lisäksi pitää asentaa BeautifilSoup esim. komennolla:

sudo apt-get install python3-bs4

# koodi alkaa

from bs4 import BeautifulSoup
import requests
from urllib.request import urlopen
from requests.utils import quote

def haePostinumero(osoite="helsinginkatu",kunta="helsinki"):

--->url="http://www.verkkoposti.com/e3/"\
--->---> "postinumeroluettelo?streetname="\
--->---> quote(osoite.encode('ISO-8859-1'))\
--->---> "&postcodeorcommune="\
--->---> quote(kunta.encode('ISO-8859-1'))

--->html=urlopen(url).read().decode("ISO-8859-1")

--->lista=[]

--->if html.find("Postinumerohaun tulos") > 0:
--->--->soup=BeautifulSoup(html,"lxml")
--->--->table = soup.find(class_="hidden-xs")
--->--->kadut=table.find_all("td")
--->--->for katu in range(0,len(kadut),4):
--->--->--->rivi=[]
--->--->--->katunimi=""
--->--->--->katunro1=""
--->--->--->katunro2=""
--->--->--->postinro=""
--->--->--->toimipaikka=""
--->--->--->kunta=""
--->--->--->katun=kadut[katu].find_all("div")
--->--->--->if len(katun) > 0:
--->--->--->--->if len(katun) > 1:
--->--->--->--->--->katul=katun[1].string.strip().split(' ')
--->--->--->--->else:
--->--->--->--->--->katul=katun[0].string.strip().split(' ')
--->--->--->--->if len(katul) == 1:
--->--->--->--->--->katunimi=katul[0].strip()
--->--->--->--->if len(katul) == 2 or len(katul) == 4:
--->--->--->--->--->katunimi=katul[0].strip()
--->--->--->--->--->katunro1=katul[1].strip()
--->--->--->--->if len(katul) == 4:
--->--->--->--->--->katunro2=katul[3].strip()
--->--->--->toimip=kadut[katu 2].string.strip().split('\n')
--->--->--->postinro=toimip[0].strip()
--->--->--->toimipaikka=toimip[2].strip()
--->--->--->kunta=kadut[katu 3].string.strip()
--->--->
--->--->--->rivi.append(katunimi)
--->--->--->rivi.append(katunro1)
--->--->--->rivi.append(katunro2)
--->--->--->rivi.append(postinro)
--->--->--->rivi.append(toimipaikka)
--->--->--->rivi.append(kunta)
--->--->--->lista.append(rivi)

--->return lista

def main():
--->while True:--->--->
--->--->postinumerot=[]
--->--->kyskatu=input("Katuosoite: ")
--->--->kyskunta=input("Kunta: ")
--->--->if len(kyskatu)>0 and len(kyskunta)>0:
--->--->--->postinumerot=haePostinumero(kyskatu,kyskunta)
--->--->elif len(kyskatu)==0 and len(kyskunta)>0:
--->--->--->break
--->--->elif len(kyskatu)>0 and len(kyskunta)==0:
--->--->--->postinumerot=haePostinumero(osoite=kyskatu)
--->--->else:
--->--->--->postinumerot=haePostinumero()

--->--->for postinumero in postinumerot:
--->--->--->print(postinumero)


if __name__ == "__main__":
--->main()
--->

12

1280

    Vastaukset 12

    Anonyymi (Kirjaudu / Rekisteröidy)
    5000
    • Koodi-tuonne-vaivatonta

      Aivan just, tää sivusto on erittäin huono silloin kun pitää välittää toiselle ohjelmakoodia. Python jos mikä on vielä erittäin tarkka syntaksistaan. Sinun kannattaa tehdä tili tuonne http://pastebin.com sivulle, joka on juuri tätä varten.

      Sinne kun koodidisi laitat, ja vielä valitset sieltä sen python kohdan, niin jopa on helppo ja nopea toisen testata.

      Linux Mint 18 Sarah
      Xfce 64-bit

      • soppakokeilu

        Kiitos vinkistä, otin käyttöön tuon Pastebinin. Ensimmäinen kokeilu:

        http://pastebin.com/tFfGPZGd

        Tein toisen funktion "postiNroToimipaikka()", joka hyödyntää aikaisempaa webistä tiedot hakeavaa "haePostinumero()"-funktiota. Se palauttaa nyt hakua vastaavan merkkijonon muodossa "postinro postitoimipaikka". Lisäksi on yksi apufunktio "suodataOsoite()", jolla suodatetaan katuosoitteesta pois mahdolliset rappujen kirjaimet ja huoneistojen numerot, koska postin haku ei niitä aina ymmärrä.

        Esim:
        suodataOsoite("Jokuosoite 1 A 2")
        palauttaa: "Jokuosoite 1".

        Oletuksena kunta on Helsinki, esim:

        osoite=suodataOsoite("Mannerheimintie 15")
        lista=haePostinumero(osoite=osoite)
        print(postiNroToimipaikka(osoite=osoite,lista=lista))

        tulostaa: 00260 HELSINKI

        Jos kunta on toinen, niin esim:

        osoite=suodataOsoite("Saapastie 2")
        kunta="Pirkkala"
        lista=haePostinumero(osoite,kunta)
        print(postiNroToimipaikka(osoite,kunta,lista))

        tulostaa: 33950 PIRKKALA


    • Ahkera-koodari-oot

      Kirjoitatko Windows ympäristössä, koska rivien

      109. kyskatu=input("Katuosoite: ")
      110. kyskunta=input("Kunta: ")

      input() funktio ottaa vastaan luku muotoista tietoa ja minä jouduin tuo muuttamaan muotoon:

      109. kyskatu=raw_input("Katuosoite: ")
      110. kyskunta=raw_input("Kunta: ")

      koska raw_input() funktio ottaa vastaan merkkijonoja.

      Lisäksi tuo suodin on niin tehokas että lähes aina tulee osoitteen sijasta

      "Useampi kuin yksi vaihtoehto"

      Saattaa olla että tuon tekstin sijaan kuuluusi tulla

      "Haku ei tuottanut tulosta"

      Linux Mint 18 Sarah
      Xfce 64-bit

      • Unohtu-tuo-kuva

      • soppakokeilu

        Käyttelen siis Python 3 -versiota, jossa ei ymmärtääkseni ole enää tuota raw_input()-funktiota lainkaan, vaan pelkkä input(). Lisäksi esim. print on korvauttu funktiolla print(). Linuxilla teen ja Idlellä.

        Haku "kemi" ja "kemi" palauttaa vain sen sanoman "Useampi kuin yksi vaihtoehto". Se johtuu siitä, että silloin Postin palvelu palauttaa liikaa arvoja, eli samalle haulle ei ole yksittäistä tulosta. Tuonhan se siis käytännössä tekee:

        https://www.verkkoposti.com/e3/postinumeroluettelo?streetname=kemi&postcodeorcommune=kemi

        Näyttäisi sinulla menevän merkistökoodaus väärin. Kopioin äsken pastebinistä ja kokeilin, niin minulla toimii silti aivan kuten pitääkin, eli pastebin ei ainakaan ole syyllinen.

        Auttaakohan jos laittaa ensimmäiseksi riviksi koodiin?

        # -*- coding: utf-8 -*-


      • Toimiiko-sulla
        soppakokeilu kirjoitti:

        Käyttelen siis Python 3 -versiota, jossa ei ymmärtääkseni ole enää tuota raw_input()-funktiota lainkaan, vaan pelkkä input(). Lisäksi esim. print on korvauttu funktiolla print(). Linuxilla teen ja Idlellä.

        Haku "kemi" ja "kemi" palauttaa vain sen sanoman "Useampi kuin yksi vaihtoehto". Se johtuu siitä, että silloin Postin palvelu palauttaa liikaa arvoja, eli samalle haulle ei ole yksittäistä tulosta. Tuonhan se siis käytännössä tekee:

        https://www.verkkoposti.com/e3/postinumeroluettelo?streetname=kemi&postcodeorcommune=kemi

        Näyttäisi sinulla menevän merkistökoodaus väärin. Kopioin äsken pastebinistä ja kokeilin, niin minulla toimii silti aivan kuten pitääkin, eli pastebin ei ainakaan ole syyllinen.

        Auttaakohan jos laittaa ensimmäiseksi riviksi koodiin?

        # -*- coding: utf-8 -*-

        Virhettä pukkaa
        https://vimeo.com/196116290

        Mitä se sinulla antaa näillä tiedoilla
        Kemilänkatu
        KEMI


        Linux Mint 18 Sarah
        Xfce 64-bit


      • soppakokeilu
        Toimiiko-sulla kirjoitti:

        Virhettä pukkaa
        https://vimeo.com/196116290

        Mitä se sinulla antaa näillä tiedoilla
        Kemilänkatu
        KEMI


        Linux Mint 18 Sarah
        Xfce 64-bit

        Toimii minulla niin kuin ajattelinkin:

        Katuosoite: Kemilänkatu
        Kunta: KEMI
        94200 KEMI

        Käyttelit ilmeisesti 2.x versiota? Siinä kuuluu olevan jotain ongelmia quote():n kanssa.

        http://stackoverflow.com/questions/1695183/how-to-percent-encode-url-parameters-in-python

        Minä käytin requests-moduulin quotea. Toimiiko jos vaihdat sen urllib:n vastaavaan? Eli korvaat tuon requests.utils-rivin tuolla urllib.request-versiolla. Minulla toimii silläkin.

        #from requests.utils import quote
        from urllib.request import quote


      • Anonyymi
        soppakokeilu kirjoitti:

        Käyttelen siis Python 3 -versiota, jossa ei ymmärtääkseni ole enää tuota raw_input()-funktiota lainkaan, vaan pelkkä input(). Lisäksi esim. print on korvauttu funktiolla print(). Linuxilla teen ja Idlellä.

        Haku "kemi" ja "kemi" palauttaa vain sen sanoman "Useampi kuin yksi vaihtoehto". Se johtuu siitä, että silloin Postin palvelu palauttaa liikaa arvoja, eli samalle haulle ei ole yksittäistä tulosta. Tuonhan se siis käytännössä tekee:

        https://www.verkkoposti.com/e3/postinumeroluettelo?streetname=kemi&postcodeorcommune=kemi

        Näyttäisi sinulla menevän merkistökoodaus väärin. Kopioin äsken pastebinistä ja kokeilin, niin minulla toimii silti aivan kuten pitääkin, eli pastebin ei ainakaan ole syyllinen.

        Auttaakohan jos laittaa ensimmäiseksi riviksi koodiin?

        # -*- coding: utf-8 -*-

        Harvinaisen typerä tuo postin palvelu, kun ei palauta jsonia.


    • Varmistan-vain

      Kirjotappa järjestelmän Dash Shellissä komento:

      python -V

      mitä se pukkaa sulla (mulla Python 2.7.12)


      Linux Mint 18 Sarah
      Xfce 64-bit

      • soppakokeilu

        Kakkosversio:

        python -V
        Python 2.7.12

        Kolmosversio:

        python3 -V
        Python 3.5.2


      • Thanks-are-in-order

        NYT TOIMII

        Pistin samanlaisen ympäristön pystyyn, eikös vaan heti ruvennut pelittämään. No nyt tuosta sitten rupean kaivelemaan, itelleni jotain opiksi. Sinähän olet parempi kuin hyvä pythonin kanssa.

        Nyt kun teet vielä tilin tuonne http://pastebin.com sivulle, niin jatkossakin pääsen sinun koodeja kopioimaan. Tilinteko tuonne ei vaadi mitään aitoja tietoja, ja voi sitten muokatakin jos johonkin pääsi TYPO mukaan.

        Thanks are in order. (Kiitokset ovat paikallaan)


        Linux Mint 18 Sarah
        Xfce 64-bit


      • soppakokeilu
        Thanks-are-in-order kirjoitti:

        NYT TOIMII

        Pistin samanlaisen ympäristön pystyyn, eikös vaan heti ruvennut pelittämään. No nyt tuosta sitten rupean kaivelemaan, itelleni jotain opiksi. Sinähän olet parempi kuin hyvä pythonin kanssa.

        Nyt kun teet vielä tilin tuonne http://pastebin.com sivulle, niin jatkossakin pääsen sinun koodeja kopioimaan. Tilinteko tuonne ei vaadi mitään aitoja tietoja, ja voi sitten muokatakin jos johonkin pääsi TYPO mukaan.

        Thanks are in order. (Kiitokset ovat paikallaan)


        Linux Mint 18 Sarah
        Xfce 64-bit

        Hyvä että sait pelaamaan. Aikamoista kantapään kautta opetteluahan tämä tahtoo välillä olla. Onneksi löytyy hakemalla suhteellisen helposti ratkaisumalleja ongelmiin.

        Eniten olen Pythonin opettelun alkuvaiheessa törmännyt juuri näihin yhteensopivuusongelmiin kakkos- ja kolmosversion kanssa. Itse lähdin siis suoraan tekemään tuolla kolmosella. Lisäksi on ollut aika kiitettävästi säätämistä merkistökoodauksien kanssa.

        No jospa se tästä vähän kerrallaan etenisi. Seuraavaksi voisi alkaa opettelemaan graafisen käyttöliittymän tekemistä, Tkinter olisi ilmeisesti silloin aiheena.


    Ketjusta on poistettu 0 sääntöjenvastaista viestiä.

    Luetuimmat keskustelut

    1. Riikka Purra on mukana Suomen huutokauppakeisari -sarjassa

      Suomen huutokauppakeisari on tavallisten suomalaisten ohjelma. Sarjan suosiosta kertoo se, että nyt alkaa jo 19. kausi t
      Maailman menoa
      166
      1558
    2. Kuuleppas

      ensimmäiset naissuhteet toimii miehelle eräänlaisena oppikouluna, mutta hän ei välttämättä itse ymmärrä oppineensa mitää
      Ikävä
      256
      1096
    3. Mulla ei ole Suomessa enää mitään

      4 vuotta joutuu asumaan henkisessä vankilassa. Sitten voi muuttaa takaisin ulkomaille.
      Turku
      183
      752
    4. Kuinka nainen jaksat ja voit

      Toivottavasti hyvin.
      Ikävä
      43
      711
    5. Provider miehistä..

      Tietyt miehet puhuvat ilkeästi naisista, jotka haluavat elää miehen tuloilla. Eikö? Mutta miksi tietyt miehet siitä pah
      Ikävä
      209
      674
    6. Sinulle nainen

      En ehkä koskaan osannut sanoa tätä oikein. Minun vaikeuteni luottaa liittyi ennen kaikkea menettämisen pelkoon. Siihen
      Ikävä
      63
      655
    7. Tiedätkö sitä

      Että sinun äänesi on ihanan pehmeä
      Ikävä
      40
      576
    8. Hei rakkaani.

      Kohtaaminen lähestyy. Miten teemme sen? Kumpi ottaa yhteyttä vai törmäämmekö jossain sattumalta? Tuleva vaimosi
      Ikävä
      48
      541
    9. Ethän mies vielä

      luovu meistä? Haluaisin jo sun syliin.
      Ikävä
      39
      534
    10. Ethän voinut nainen tietää, että rikot rikotun

      Omaa elämää taas mietin aamuyön tunteina. En vieläkään löytänyt muistin sokkeloista ainuttakaan onnen hetkeä. Kaipuu on
      Ikävä
      67
      533
    11. Haaveilen edelleen

      Sinusta aika ajoin
      Ikävä
      32
      491
    12. Yt:t kunnassa päättyi

      Oliko nämä tarpeelliset ja ratkeaako taloushuolet näiden avulla? Lehdessä ilmoitettujen lukujen perusteella lisää on tul
      Lappajärvi
      57
      489
    13. Sut.

      Tuhotaan. :)
      Tunteet
      56
      485
    14. Tulisitpa käymään joskus vielä

      Olisi niin kiva nähdä pitkästä aikaa. Oletko vielä joskus tulossa?... Niin monet muutoksen tuulet puhaltavat, olisi lohd
      Ikävä
      23
      479
    15. Martsusta tuli leuhka

      Ja ylimielinen. Hän ei nosta persettäkään ilmaseksi . Luulempa et nämä ei tee hyvää hyvinvointivalmennuksille.... Nannal
      Kotimaiset julkkisjuorut
      169
      466
    16. Lämpimiä katseita aikoinaan vaihdettiin, siihen se sitten jäi

      Sinulla uudet tuulet ja välttelet kohtaamistamme.
      Ikävä
      26
      460
    17. Poromiehentien remontti ...

      Mikä tilanne? mistä mennään
      Hyrynsalmi
      6
      443
    18. Mä oon kallistumassa

      Rikosilmoitukseen!
      Suhteet
      69
      441
    19. 20
      406
    20. Kiulu myynnissä!

      Kiulu hakee taas uutta yrittäjää. https://www.yritysporssi.fi/etela-pohjanmaa-lansi-suomi-finland/myytavat/yritykset/ma
      Ähtäri
      22
      405
    Aihe