Saltar al contenido
Nóesis
Todas las familias
F28Fronteradesde 2017

Aprendizaje federado

Entrenar sin centralizar los datos

Los datos se quedan en el dispositivo; sólo viajan gradientes o pesos. FedAvg agrega modelos locales en un servidor.

2017
año fundacional
1
laboratorio
2
ecuaciones
4
hitos citados
Ir al laboratorio en vivo
Lámina F28semitono de dos tintas · en vivo
§1

Intuición

Lo que se investiga hoy: representación, memoria, control.

Cada cliente entrena en privado y envía su modelo. El servidor promedia (FedAvg) y redistribuye.

El no-IID duele: clientes con datos distintos divergen.

El laboratorio muestra clientes, agregación y precisión global.

§2

Mecanismo

FedAvg: heta leftarrow sum_k rac{n_k}{n} heta_k.

Variantes: FedProx, SCAFFOLD, secure aggregation, DP.

Desafíos: sistemas (stragglers), estadística (heterogeneidad), privacidad.

Ec. 28.1FedAvg
θt+1=∑k=1Knknθkt+1\theta^{t+1}=\sum_{k=1}^K\frac{n_k}{n}\theta_k^{t+1}
Ec. 28.2FedProx
Lk(θ)+μ2∥θ−θt∥2\mathcal{L}_k(\theta)+\frac{\mu}{2}\|\theta-\theta^t\|^2
§3

Laboratorio

Lab 28.1 calculado en tu navegadorDetectando…

FedAvg con clientes heterogéneos

Varios clientes entrenan en particiones; el servidor promedia. Compara IID vs no-IID y mira la precisión global.

§4

Historia

  1. 2016

    Google propone federated learning.

    McMahan et al. (2017), AISTATS

  2. 2017

    FedAvg en teclados móviles.

    Hard et al., Google

  3. 2020

    FedProx y SCAFFOLD atacan la heterogeneidad.

    Li et al.; Karimireddy et al.

  4. 2023

    Federación en LLMs y hospitales.

    aplicaciones

§5

Límites

1

No-IID degrada la convergencia.

2

Comunicación cara en redes débiles.

3

Privacidad no es automática: hace falta DP o secure agg.

§6 · Pregunta filosófica

¿Quién posee el modelo si nadie posee los datos?

La federación redistribuye poder —y crea nuevos puntos de fallo en el servidor.

¿Es privacidad real o sólo un desplazamiento del riesgo?

Familias conectadas