Riesgos legales de los chatbots

¿Qué es un chatbot?

Es un programa de software que “chatea”. Simula conversaciones humanas a través de comandos de voz, métodos textuales o ambos.[1]

¿Quién usa los chatbots y por qué?

Es utilizado por las empresas para estimular la conversación, promover productos / servicios, aumentar el compromiso del consumidor y mejorar la experiencia del usuario. Tiene propósitos como:

1. Servicios de atención al cliente. Un gran número de empresas utilizan los chatbots ya que son capaces de manejar numerosas preguntas repetitivas, tales como: (a) problemas de devolución e intercambio de productos, (b) elimina el tiempo de espera de llamada para el cliente y (c) proporciona un servicio de 24 horas.
2. Permite a la empresa reducir costos laborales. Pueden ahorrar hasta un 30% del salario anual en servicios de atención al cliente.
3. Publicidad. Cada vez más marcas los utilizan con fines promocionales. Pueden recurrir a aplicaciones de mensajería, como Facebook Messenger, para enviar enlaces publicitarios a consumidores potenciales. Según Octane AI, especializado en chatbots y marketing de mensajería, entre el 15 y el 60% de las personas que reciben un mensaje de un chatbot de Messenger con un enlace a una URL externa, hacen clic en el enlace.
4. Servicios legales. Algunas empresas están creando chatbots que brindan asesoramiento y servicio legal a bajo costo o incluso gratuito.[2]

Se utilizaban principalmente para detectar ciertos patrones de texto enviados por los participantes de las salas de chat y responder con respuestas automáticas. En particular, los chatbots identificarían un lenguaje inapropiado y advertirían al usuario que lo detenga o eventualmente lo bloqueé de la discusión.

¿Algún uso malicioso?

Aunque la mayoría de los chatbots se utilizan con fines productivos, algunos se consideran malware. Los chatbots maliciosos se utilizan con frecuencia para llenar salas de chat con spam y publicidad, o para atraer a las personas a revelar información personal, como números de cuentas bancarias.

¿Cuáles son los problemas y riesgos legales que implica este fenómeno?

1. Términos y condiciones. Los usuarios deben saber si un chatbot está llevando a cabo una determinada actividad. Esto es especialmente importante si se utilizan para facilitar transacciones en línea o proporcionar algún tipo de asesoramiento. La aceptación de estos Términos por parte de los usuarios debe ser inequívoca.
2. Renuncias y cumplimiento a las actividades reguladas. La introducción de los chatbots en industrias altamente reguladas, como los servicios financieros, médicos o legales, destaca una serie de problemas potenciales relacionados con la responsabilidad. Cualquier compañía que le otorgue la autoridad para asesorar a los usuarios, deberá asegurarse de que el chatbot tenga acceso a un gran volumen de información actualizada para comprender instrucciones y preguntas, y brindar respuestas útiles y relevantes. En caso de que el chatbot no pueda proporcionar un consejo correcto, se debe considerar un descargo de responsabilidad claro y un posible desencadenante de intervención humana.
3. Protección de Datos. Las empresas deben aclarar la identidad del responsable de datos, la naturaleza de los datos recopilados, la duración y los fines del procesamiento de los datos y, finalmente, la identidad, la ubicación y el grado de protección garantizado por cualquier receptor de estos datos.
4. Infracción de derechos de terceros. Los chatbots son susceptibles de infringir derechos de autor protegidos por derechos de autor o de utilizar marcas comerciales de terceros. Deben establecerse medidas de seguridad adecuadas para evitar tales infracciones. En todos los casos, es esencial asegurarse de que no infrinja los derechos de los demás, ya que dicha infracción implicaría la responsabilidad de sus propietarios o desarrolladores y deterioraría la imagen de la marca que la utiliza.
5. Prevención de los chatbots deshonestos. Tener cuidado con las posibles respuestas perjudiciales, abusivas e incorrectas que puede dar. Tener en cuenta el efecto que un chatbot puede tener en la imagen y el perfil de una empresa. Las empresas deben incorporar este riesgo en su gestión de crisis para poder reaccionar rápidamente a cualquier queja hecha por el público con respecto a sus relaciones con el chatbot.

¿En resumen?

Los chatbots ofrecen varios beneficios a sus desarrolladores, así como a los usuarios. Esto explica su aumento y también conlleva diferentes riesgos.

Según la multinacional de tecnología informática Oracle, el 80% de las empresas implementarán chatbots para 2023. Este programa se está volviendo cada vez más sofisticado en lo que puede hacer y en qué medida puede imitar el comportamiento humano en línea.

---

[1] La idea del chatbot se convirtió en uno de los primeros tipos de programas automatizados propuestos por Alan Turing, en los años cincuenta. Su idea era desarrollar inteligencia computacional artificial para personificar a un humano en una conversación en tiempo real lo suficientemente bien como para que un humano no pudiera distinguir de manera confiable entre el programa y una persona real.

Un ejemplo famoso apodado como “el primer robot abogado” es DoNotPay, que comenzó por apelar multas de estacionamiento. En 26 meses, DoNotPay ha asumido 250,000 cajas y ganado 160,000, lo que le da una tasa de éxito del 64% que atrae a más de 4 millones de dólares en multas de estacionamiento.

---