Sanciones y Consecuencias del uso de la IA
Si eres un aficionado a la tecnología, particularmente a la inteligencia artificial, probablemente estés al tanto de los impactos positivos que se proyecta tendrá en todas las áreas de nuestras vidas, personales y profesionales. Pero, como cualquier otra herramienta, la IA tiene limitaciones, y la posibilidad de errores permanece. Al final del día, los usuarios de herramientas como ChatGPT deben tener en cuenta el dicho, “que el comprador tenga cuidado,” porque si no verificas lo que un programa de inteligencia artificial produce, puede volverse en tu contra. Dos abogados de lesiones personales de Nueva York aprendieron esa lección de la manera difícil.
Para una consulta legal gratuita, llame al 561-222-2222
El Trasfondo
Steven A. Schwartz, un abogado del bufete de lesiones personales de Nueva York Levidow, Levidow & Oberman, representaba a Roberto Mata, quien demandaba a la aerolínea colombiana Avianca después de que un carrito de servicio le lesionara la rodilla en un vuelo de 2019. Avianca intentó que un juez desestimara el caso. En respuesta, Schwartz y el co-abogado Paul LoDuca objetaron y presentaron un escrito lleno de decisiones judiciales similares en el pasado. Dijo que usó el chatbot de OpenAI, ChatGPT, para “complementar” sus propios hallazgos. ChatGPT proporcionó varios casos similares para respaldar la demanda de Mata.
¿El problema? ChatGPT inventó todos los casos. No existían.
Desafortunadamente, Schwartz no hizo una investigación adicional para confirmar que los casos de la IA fueran legítimos, y fue alertado por primera vez del grave error por los abogados de la aerolínea, quienes expusieron la jurisprudencia falsa en una presentación de marzo.
Schwartz afirmó que “desconocía la posibilidad de que su (ChatGPT) contenido pudiera ser falso.” Incluso proporcionó capturas de pantalla al juez de su interacción con el chatbot, preguntando si uno de los casos era real. ChatGPT respondió que sí, e incluso dijo que los casos podían encontrarse en “bases de datos legales reputadas,” lo cual era falso.
Haga clic para contactar a un abogado de lesiones personales hoy mismo
Las Consecuencias
Debido al error, el juez del caso, P. Kevin Castel, no estaba contento y programó una audiencia para determinar cómo manejar el lío que Schwartz creó. El jueves 22 de junio, Castel impuso sanciones a Schwartz, LoDuca y Levidow, Levidow & Oberman, y les ordenó pagar una multa de $5,000.
Castel encontró que los abogados actuaron de mala fe y cometieron “actos de evitación consciente y declaraciones falsas y engañosas ante el tribunal.”
El bufete dijo en un comunicado que sus abogados “respetuosamente” no estaban de acuerdo con que actuaran de mala fe. “Cometimos un error de buena fe al no creer que una pieza de tecnología pudiera estar inventando casos de la nada,” decía el comunicado.
Castel escribió en la orden de sanciones que “Los avances tecnológicos son comunes y no hay nada inherentemente impropio en usar una herramienta confiable de inteligencia artificial para asistencia. Pero las reglas existentes imponen un rol de supervisión a los abogados para asegurar la exactitud de sus presentaciones.”
Llame o envíe un mensaje de texto al 561-222-2222 o complete un formulario de evaluación de caso gratuito
La Lección Aprendida
Schwartz ha declarado que ha sufrido profesionalmente debido a la publicidad del caso. Entonces, ¿por qué un abogado que ha ejercido por más de 30 años confió tanto en la IA y ChatGPT? Afirma que se enteró a través de sus hijos y leyendo numerosos artículos sobre herramientas de inteligencia artificial usadas en entornos profesionales, incluidos bufetes de abogados.
Los usuarios de tecnologías como ChatGPT deben darse cuenta de que los chatbots de IA son modelos de lenguaje entrenados para seguir instrucciones y proporcionar al usuario una respuesta a su solicitud. Eso significa que si un usuario le pide información a ChatGPT, este le proporcionará exactamente lo que busca. Incluso si no es factual. ¿Por qué las plataformas como ChatGPT proporcionan información no factual? Recuerda. Los chatbots de IA son una tecnología relativamente nueva. Todavía hay muchos errores por resolver. Por ejemplo, ChatGPT informa a los usuarios desde el principio que no proporciona información que no estuviera disponible antes de septiembre de 2021. Aquí hay otras formas en que los chatbots de IA pueden proporcionarte información errónea:
Complete un formulario de evaluación de caso gratuito ahora
Malentendido de la Intención del Usuario
Los chatbots de IA usan algoritmos de procesamiento de lenguaje natural (PLN) para entender la solicitud de un usuario, pero los algoritmos no siempre son perfectos. Si la solicitud es ambigua, el chatbot puede interpretarla mal y proporcionar información inexacta.
Falta de “Entrenamiento” Adecuado
Debido a que plataformas como ChatGPT son “entrenadas” alimentándolas con enormes cantidades de datos, solo son tan “buenas” como los datos con los que se entrenan. Si una plataforma de IA no tiene suficientes datos de donde extraer, puede proporcionar información insuficiente o incorrecta.
Información Desactualizada
Si no se actualizan constantemente, los chatbots pueden proporcionar información incorrecta. Esto es especialmente cierto para plataformas que ofrecen noticias u otra información sensible al tiempo.
Información Incompleta
Si un chatbot no tiene toda la información necesaria para proporcionar una respuesta completa, o si se le hace una pregunta que requiere contexto adicional, puede solo proporcionar una respuesta parcial, o quizás incorrecta.
Dependencia Excesiva de la Inteligencia Artificial
La IA es útil, pero no es perfecta. Si el chatbot depende demasiado de la IA, puede necesitar un humano en el proceso para asegurar que proporciona información precisa.
En Conclusión…
Aunque la IA, incluidas herramientas como ChatGPT, tiene un gran potencial en varios campos, es crucial que los usuarios actúen con precaución y no confíen ciegamente en la información proporcionada. El desafortunado caso de los abogados de lesiones personales de Nueva York sirve como recordatorio de que la IA tiene sus limitaciones y puede cometer errores. A medida que los avances tecnológicos continúan, es importante adoptar las herramientas de IA manteniendo una mentalidad crítica. Los usuarios DEBEN asumir la responsabilidad de certificar la información creada por sistemas de IA, especialmente en entornos profesionales como el derecho, la medicina o la ingeniería, donde la precisión es crucial. Reconociendo las limitaciones de los chatbots de IA y manteniendo un enfoque cauteloso, nosotros como usuarios podemos mitigar los riesgos asociados con esta tecnología aún relativamente no probada.
