Skip to content

Commit

Permalink
Ignorer les localisations nulle
Browse files Browse the repository at this point in the history
  • Loading branch information
kolok committed Jan 10, 2025
1 parent 831f9e7 commit 26a7831
Show file tree
Hide file tree
Showing 3 changed files with 15 additions and 1 deletion.
13 changes: 13 additions & 0 deletions dags/sources/tasks/business_logic/source_data_normalize.py
Original file line number Diff line number Diff line change
Expand Up @@ -192,6 +192,19 @@ def source_data_normalize(
# Merge et suppression des lignes indésirables
df = _remove_undesired_lines(df, dag_config)

# TODO: A voir ce qu'on doit faire de ces acteurs non digitaus mais sans
# localisation (proposition : les afficher en erreur directement ?)
df_acteur_sans_loc = df[
(df["location"].isnull()) & (df["acteur_type_code"] != "acteur_digital")
]
if not df_acteur_sans_loc.empty:
nb_acteurs = len(df)
logger.warning(
f"Nombre d'acteur sans localisation: {len(df_acteur_sans_loc)} / "
f"{nb_acteurs}"
)
log.preview("Acteurs sans localisation", df_acteur_sans_loc)

log.preview("df après normalisation", df)
if df.empty:
raise ValueError("Plus aucune donnée disponible après normalisation")
Expand Down
1 change: 0 additions & 1 deletion dags/sources/tasks/transform/transform_column.py
Original file line number Diff line number Diff line change
Expand Up @@ -171,7 +171,6 @@ def clean_souscategorie_codes(
return souscategorie_codes

product_mapping = dag_config.product_mapping
logger.warning(f"{sscat_list=}")
for sscat in sscat_list.split("|"):
sscat = sscat.strip().lower()
if not sscat:
Expand Down
2 changes: 2 additions & 0 deletions dags/utils/base_utils.py
Original file line number Diff line number Diff line change
Expand Up @@ -114,6 +114,8 @@ def extract_details(row, col="adresse_format_ban"):


def transform_location(longitude, latitude):
if not longitude or not latitude:
return None
return wkb.dumps(Point(longitude, latitude)).hex()


Expand Down

0 comments on commit 26a7831

Please sign in to comment.