Task_7: Logging
This commit is contained in:
parent
e341a65204
commit
19faf0d798
24
TASK.md
24
TASK.md
@ -1,21 +1,5 @@
|
|||||||
# TASK 6:
|
# TASK 7:
|
||||||
|
|
||||||
Wir arbeiten nun intern direkt mit den Daten von Overpass, will heissen `results` hat die gleiche Struktur wie die Daten,
|
* Jetzt wäre doch ein guter Zeitpunkt um anstelle der print-Statements das Logging einzubauen. Verwendet das
|
||||||
welche von Overpass kommen. Macht das Sinn? Warum vielleicht nicht?
|
Logging-Modul in Python und ersetzt alle print-statements! Ab nun verwenden wir nur noch das Logging-Module im
|
||||||
|
Miniprojekt.
|
||||||
* Wir versuchen einen Adapter zu bauen. Intern wollen wir mit einer eigenen Dataclass `POI` arbeiten. Wir bauen also dazu eine
|
|
||||||
Funktion `load_pois`, welche einerseits die Daten fetched und andererseits auch parsed. Den Fetching-Teil haben wir
|
|
||||||
bereits (`fetch_overpass`), den Pasing-Teil haben wir noch nicht.
|
|
||||||
Schreibt bitte eine eigene Dataclass`Poi` in welche die gefetchten Daten 'abgefüllt' werden können.
|
|
||||||
* Die Datenklasse `POI` könnt ihr in einem neuen Modul `models.py` ablegen.
|
|
||||||
* Die Struktur von `POI` sieht z.B. wie folgt aus:
|
|
||||||
|
|
||||||
```
|
|
||||||
class POI:
|
|
||||||
id: str
|
|
||||||
type: str
|
|
||||||
poi_type: str
|
|
||||||
lat: float
|
|
||||||
lon: float
|
|
||||||
tags: dict
|
|
||||||
```
|
|
||||||
@ -1,4 +1,5 @@
|
|||||||
from overpass import fetch_overpass, OverpassApiError
|
from overpass import load_pois, OverpassApiError
|
||||||
|
from models import POI
|
||||||
|
|
||||||
# ---------------------------------------------------------------------------
|
# ---------------------------------------------------------------------------
|
||||||
# Konfiguration
|
# Konfiguration
|
||||||
@ -9,6 +10,8 @@ BBOXEN = {
|
|||||||
"schweiz": (45.8, 5.9, 47.8, 10.5),
|
"schweiz": (45.8, 5.9, 47.8, 10.5),
|
||||||
}
|
}
|
||||||
|
|
||||||
|
poi_type = "bergbahn"
|
||||||
|
|
||||||
QUERY = """
|
QUERY = """
|
||||||
[out:json][timeout:2][maxsize:500000];
|
[out:json][timeout:2][maxsize:500000];
|
||||||
(
|
(
|
||||||
@ -28,13 +31,15 @@ QUERY = """
|
|||||||
def main() -> None:
|
def main() -> None:
|
||||||
for name, bbox in BBOXEN.items():
|
for name, bbox in BBOXEN.items():
|
||||||
try:
|
try:
|
||||||
result = fetch_overpass(overpass_query=QUERY, bbox=bbox)
|
pois: list[POI] = load_pois(overpass_query=QUERY, bbox=bbox, poi_type=poi_type)
|
||||||
except OverpassApiError as exc:
|
except OverpassApiError as exc:
|
||||||
print(f" Fehler : {exc}")
|
print(f"Fehler bei '{name}': {exc}")
|
||||||
continue
|
continue
|
||||||
|
|
||||||
elements = result.get("elements", [])
|
print(f"\n{name}: {len(pois)} POIs gefunden")
|
||||||
print(elements)
|
for poi in pois:
|
||||||
|
print(f" {poi.id}: ({poi.lat}, {poi.lon})")
|
||||||
|
|
||||||
|
|
||||||
if __name__ == "__main__":
|
if __name__ == "__main__":
|
||||||
main()
|
main()
|
||||||
16
src/overpass/models.py
Normal file
16
src/overpass/models.py
Normal file
@ -0,0 +1,16 @@
|
|||||||
|
from dataclasses import dataclass, field
|
||||||
|
|
||||||
|
@dataclass
|
||||||
|
class POI:
|
||||||
|
id: str
|
||||||
|
type: str
|
||||||
|
poi_type: str
|
||||||
|
lat: float
|
||||||
|
lon: float
|
||||||
|
tags: dict = field(default_factory=dict) # weil mutable defaults in Dataclasses eine bekannte Python-Falle sind
|
||||||
|
# (alle Instanzen würden dasselbe Dict teilen...)
|
||||||
|
|
||||||
|
|
||||||
|
# REMARK:
|
||||||
|
# Wann eine eigene Dataclass für tags?
|
||||||
|
# Nur wenn die tags strukturiert und vorhersehbar sind, was bei OSM-Daten nicht der Fall ist...
|
||||||
@ -1,15 +1,31 @@
|
|||||||
import requests
|
import requests
|
||||||
from pprint import pprint
|
from pprint import pprint
|
||||||
|
from models import POI
|
||||||
|
import logging
|
||||||
|
|
||||||
|
logger = logging.getLogger(__name__)
|
||||||
|
|
||||||
|
|
||||||
OVERPASS_URL = "https://overpass-api.de/api/interpreter"
|
OVERPASS_URL = "https://overpass-api.de/api/interpreter"
|
||||||
|
|
||||||
|
|
||||||
|
# REMARK:
|
||||||
|
# zwei Strategien:
|
||||||
|
# Fail-fast: Ein Fehler bricht alles ab → sinnvoll, wenn jedes Element kritisch ist
|
||||||
|
# Best-effort: Fehlerhafte Elemente überspringen, Rest verarbeiten → sinnvoll bei OSM-Daten, wo einzelne Einträge unvollständig sein können
|
||||||
|
|
||||||
|
|
||||||
class OverpassApiError(Exception):
|
class OverpassApiError(Exception):
|
||||||
pass
|
pass
|
||||||
|
|
||||||
|
|
||||||
def fetch_overpass(overpass_query: str, bbox: tuple) -> dict:
|
def load_pois(overpass_query: str, bbox: tuple, poi_type: str) -> list[POI]:
|
||||||
|
"""Führt Fetch und Parse zusammen aus."""
|
||||||
|
raw = _fetch_overpass(overpass_query=overpass_query, bbox=bbox)
|
||||||
|
return _parse_pois(raw, poi_type)
|
||||||
|
|
||||||
|
|
||||||
|
def _fetch_overpass(overpass_query: str, bbox: tuple) -> dict:
|
||||||
"""
|
"""
|
||||||
Fragt die Overpass API nach Bergbahnen in der angegebenen Bounding Box ab.
|
Fragt die Overpass API nach Bergbahnen in der angegebenen Bounding Box ab.
|
||||||
Sendet einen HTTP-POST-Request an die Overpass API und gibt die geparste
|
Sendet einen HTTP-POST-Request an die Overpass API und gibt die geparste
|
||||||
@ -59,7 +75,7 @@ def fetch_overpass(overpass_query: str, bbox: tuple) -> dict:
|
|||||||
response = requests.post(
|
response = requests.post(
|
||||||
OVERPASS_URL,
|
OVERPASS_URL,
|
||||||
data={"data": query},
|
data={"data": query},
|
||||||
timeout=5,
|
timeout=15,
|
||||||
headers={"User-Agent": "CDS Exercise"},
|
headers={"User-Agent": "CDS Exercise"},
|
||||||
)
|
)
|
||||||
response.raise_for_status() # prüft den HTTP-Statuscode der Antwort und wirft eine Exception, wenn es ein Fehler war (requests.HTTPError)
|
response.raise_for_status() # prüft den HTTP-Statuscode der Antwort und wirft eine Exception, wenn es ein Fehler war (requests.HTTPError)
|
||||||
@ -67,7 +83,51 @@ def fetch_overpass(overpass_query: str, bbox: tuple) -> dict:
|
|||||||
raise OverpassApiError("Overpass-API Timeout") from exc
|
raise OverpassApiError("Overpass-API Timeout") from exc
|
||||||
except requests.RequestException as exc:
|
except requests.RequestException as exc:
|
||||||
raise OverpassApiError("Overpass-API Request fehlgeschlagen") from exc
|
raise OverpassApiError("Overpass-API Request fehlgeschlagen") from exc
|
||||||
return response.json()
|
|
||||||
|
data = response.json()
|
||||||
|
|
||||||
|
# zusätzliche Fehlermöglichkeit -> Status ist zwar 200, aber Liste mit Ergebnissen ist leer...
|
||||||
|
if "remark" in data:
|
||||||
|
raise OverpassApiError(f"Overpass Query-Fehler: {data['remark']}")
|
||||||
|
|
||||||
|
return data
|
||||||
|
|
||||||
|
|
||||||
|
def _parse_poi(data: dict, poi_type: str) -> POI:
|
||||||
|
""" Wandelt ein einzelnes Overpass-Element in ein POI-Objekt um.
|
||||||
|
|
||||||
|
:param data: dictionary mit Daten für ein POI-Objekt
|
||||||
|
:param poi_type: Bezeichnung für die geladene POI-Gruppe (z.B. 'restaurant', 'bergbahn', ...)
|
||||||
|
:return: POI-Objekt
|
||||||
|
"""
|
||||||
|
try:
|
||||||
|
return POI(
|
||||||
|
id=data['id'],
|
||||||
|
poi_type=poi_type,
|
||||||
|
type=data.get('type', ''),
|
||||||
|
lat=float(data.get("lat") or data["center"]["lat"]),
|
||||||
|
lon=float(data.get("lon") or data["center"]["lon"]),
|
||||||
|
tags=data.get('tags', {}),
|
||||||
|
)
|
||||||
|
except KeyError as exc:
|
||||||
|
raise OverpassApiError("Feld in API - Antwort fehlt") from exc
|
||||||
|
except (TypeError, ValueError) as exc:
|
||||||
|
raise OverpassApiError("API - Antwort hat falsches Format ") from exc
|
||||||
|
|
||||||
|
|
||||||
|
|
||||||
|
def _parse_pois(raw: dict, poi_type: str) -> list[POI]:
|
||||||
|
"""Extrahiert alle Elemente aus der API-Antwort und parst sie.
|
||||||
|
Fehlerhafte Elemente werden übersprungen und geloggt.
|
||||||
|
"""
|
||||||
|
pois = []
|
||||||
|
for element in raw.get("elements", []):
|
||||||
|
try:
|
||||||
|
pois.append(_parse_poi(data=element, poi_type=poi_type))
|
||||||
|
except OverpassApiError as exc:
|
||||||
|
logger.warning(f"POI übersprungen (id={element.get('id', '?')}): {exc}")
|
||||||
|
return pois
|
||||||
|
|
||||||
|
|
||||||
|
|
||||||
if __name__ == "__main__":
|
if __name__ == "__main__":
|
||||||
@ -86,5 +146,5 @@ if __name__ == "__main__":
|
|||||||
|
|
||||||
bbox = (46.72, 9.70, 46.92, 10.00)
|
bbox = (46.72, 9.70, 46.92, 10.00)
|
||||||
# bbox = (45.8, 5.9, 47.8, 10.5)
|
# bbox = (45.8, 5.9, 47.8, 10.5)
|
||||||
result = fetch_overpass(overpass_query=BERGBAHN_QUERY, bbox=bbox)
|
result = load_pois(overpass_query=BERGBAHN_QUERY, bbox=bbox)
|
||||||
pprint(result)
|
pprint(result)
|
||||||
Loading…
x
Reference in New Issue
Block a user