Aplicación del Marco Ético de IA en la
Agricultura de Rosas en Colombia
Proyecto: "Modelo Predictivo de Cosecha de Rosas con IA: Aplicación del Marco Ético
Colombiano"
Autores:
Laura Catalina Galvis
Elquin Cascavita
Objetivo del Marco Ético
Guiar la implementación de un sistema de IA ético y responsable para la predicción de
cosechas en el sector de floricultura, asegurando que su diseño, desarrollo y uso generen
beneficios sociales, económicos y ambientales respetando los derechos de todas las partes
interesadas.
Descripción del Caso de Estudio
a) Sector: Agricultura (Floricultura, específicamente producción de rosas para exportación).
b) Problema:
I.
II.
Incertidumbre en la cosecha: Falta de modelos precisos para predecir el momento
óptimo de cosecha, causando desajustes en la cadena de suministro, pérdidas
económicas (20-30% de desperdicio) y reducción de calidad (Taylor & White,
2020).
Factores críticos: Variabilidad climática, manejo agronómico inconsistente y
limitaciones en herramientas tecnológicas (Alshammari et al., 2022).
c) Solución Propuesta:
Desarrollar un sistema de IA que:
I.
Monitoree estados fenológicos de las rosas (ej.: brotación, floración) mediante
sensores IoT y drones.
II.
Utilice algoritmos de machine learning (redes neuronales) para predecir la fecha
óptima de cosecha, integrando datos históricos, climáticos y de manejo agrícola.
III.
Genere alertas tempranas para ajustar la logística de cosecha y exportación.
Alcance
Este marco se aplica a:
I.
II.
III.
IV.
Empresas floricultoras y desarrolladores de tecnología.
Entidades de gobierno locales y nacionales.
Universidades e instituciones de formación técnica.
Asociaciones campesinas, cooperativas y comunidades rurales.
Debe entenderse que los principios se aplicarán de forma diferenciada según el contexto
(sector público o privado) y se establecerá una guía específica para cada actor.
Principios Éticos Aplicables
Basado en el Marco Ético para la Inteligencia Artificial en Colombia, este sistema
incorporará los siguientes principios adaptados al contexto de la floricultura:
a. Beneficio Social
I.
II.
El sistema busca disminuir las pérdidas por mala sincronización en la cosecha
(20-30%) y aumentar la calidad del producto, mejorando la productividad y
sostenibilidad del sector.
Contribuye directamente a los ODS 8 (Trabajo decente y crecimiento
económico) y ODS 12 (Producción y consumo responsables).
b. Transparencia y Explicabilidad
I.
II.
III.
Los algoritmos deberán documentarse y presentarse en términos comprensibles
para floricultores, exportadores y entidades reguladoras.
Se notificará a los usuarios cuando interactúen con sistemas automáticos y no
con personas.
Se fomentará la explicabilidad de los modelos de predicción, incluyendo tasas
de error y su interpretación.
c. Privacidad y "Privacy Preserving"
I.
II.
Se aplicarán métodos avanzados de protección de datos como la privacidad
diferencial.
Se anonimizarán datos personales y agrícolas sensibles, respetando la propiedad
de los productores sobre su información.
d. Seguridad y Ciberseguridad
I.
II.
Se establecerán estándares para la seguridad de los datos y del sistema en su
totalidad, previniendo ciberataques que comprometan los modelos o la
operación.
La protección de datos sensibles se tratará como pilar fundamental.
e. Inclusión y No Discriminación
I.
Se asegurará que el sistema funcione adecuadamente para diversos tipos de
productores, incluyendo pequeñas fincas, comunidades rurales y mujeres
floricultoras.
f. Control Humano Proporcional al Riesgo
II.
III.
Las decisiones siempre serán tomadas por humanos (Human-in-the-loop),
especialmente si los modelos indican riesgo de error elevado.
Se ajustará el nivel de automatización según el riesgo y el contexto agrícola.
g. Responsabilidad y Verificación de Algoritmos
I.
II.
Cada actor (desarrolladores, agrónomos, exportadores) tendrá claramente
definidas sus responsabilidades.
La verificación de algoritmos deberá ser hecha por agencias independientes no
involucradas en el desarrollo del sistema.
h. Sostenibilidad Ambiental
I.
El sistema deberá optimizar el uso de agua, energía y agroquímicos al sugerir el
momento exacto de la cosecha.
Recomendaciones Clave
a. Diferenciación por sector:
Aplicar principios más estrictos al sector público, especialmente si se manejan recursos
del Estado o datos sensibles.
b. Enfoque basado en riesgo:
Evaluar el impacto potencial y ajustar el control humano, la transparencia y la
privacidad al nivel de riesgo.
c. Paso previo centrado en datos:
Diseñar una estrategia de gobernanza y calidad de datos antes de aplicar IA.
d. Supervisión independiente:
Crear un cuerpo técnico o comité ético-público-privado para auditar y certificar la
aplicación de principios éticos.
e. Integración multisectorial:
Incluir los principios del Marco Ético en currículos universitarios, políticas públicas,
procesos empresariales y formación comunitaria.
f. Educación y cultura ética:
Sensibilizar a los ciudadanos y a los agricultores sobre los alcances y límites de la IA en
el agro.
g. Evaluación continua y verificación:
Implementar mecanismos de monitoreo y validación de resultados y sesgos.
h. Narrativa de gobernanza:
Hay que asegurar que los principios estén alineados con una visión amplia de
gobernanza de datos y tecnología.
i. Adopción como obligatoria:
Promover regulaciones que hagan vinculante el cumplimiento del marco para evitar que
sea solo declarativo.
j. Comunicación activa:
Asegurar la claridad para los usuarios finales sobre si interactúan con personas o
sistemas automatizados.
REFERENCIAS
Taylor, J., & White, R. (2020). Predicting harvest readiness in floriculture: Supply chain
and quality implications. Journal of Agricultural Systems, 178, 102734.
https://doi.org/10.1016/j.agsy.2020.102734
Alshammari, F., Ahmad, I., Khan, R., & Lee, Y. (2022). Challenges and applications of AIbased systems in precision agriculture: A review. Computers and Electronics in Agriculture,
198, 107025. https://doi.org/10.1016/j.compag.2022.107025
Presidencia de la República de Colombia. (2021). Marco ético para la inteligencia artificial
en Colombia. Departamento Administrativo de la Presidencia de la República.
https://www.funcionpublica.gov.co/documents/418537/0/Marco+%C3%89tico+IA+Colom
bia.pdf
0
