Recientemente, Openai publicó un informe importante que enfatiza que su servicio de inteligencia artificial CHATGPT nunca permitirá ninguna forma de uso malicioso. Con el rápido crecimiento de los usuarios de ChatGPT, Openai ha notado que algunos delincuentes están utilizando la plataforma para violaciones. Con este fin, la compañía actuó rápidamente y suspendió docenas de cuentas sospechosas. Según los últimos datos, los usuarios activos semanales de ChatGPT han superado los 400 millones, con más de 100 millones de nuevos usuarios en solo tres meses. Este fenómeno no solo demuestra la amplia influencia de ChatGPT, sino que también desencadena discusiones en profundidad sobre los aspectos éticos y legales del uso del servicio.
En el informe, OpenAI establece claramente que cualquier uso de sus herramientas para el fraude o el comportamiento malicioso está estrictamente prohibido. Recientemente, la compañía investigó varios casos que involucran reclutamiento falso y descubrieron y prohibieron múltiples cuentas relacionadas. Por ejemplo, se descubrió que una cuenta desacredita a los Estados Unidos a través de informes de noticias falsos, e incluso publicó estos artículos en América Latina bajo el nombre de los medios de comunicación chinos. Este comportamiento no solo perjudica la reputación de ChatGPT, sino que también tiene efectos adversos en las relaciones internacionales.
Además, hay algunas cuentas de Camboya que usan ChatGPT para traducir y generar comentarios para ayudar a "estafas de amor en la red" a realizar estafas en plataformas de redes sociales como X, Facebook e Instagram. Estos fraudes no solo causan pérdidas económicas a las víctimas, sino que también socavan seriamente el entorno de confianza de las plataformas sociales.
Operai dijo que sus hallazgos se han compartido con otras compañías de la industria, como Meta, para lidiar con la mala conducta que ocurre en ChatGPT. A través de estas acciones, Operai espera mantener la buena reputación de la plataforma y proteger a los usuarios del fraude. La compañía también planea fortalecer aún más la cooperación con otras compañías de tecnología para combatir conjuntamente el fraude en línea y el comportamiento malicioso.
Como compañía líder de IA, OpenAI continuará monitoreando el uso de sus servicios para garantizar que la tecnología no sea abusada. La compañía enfatizó que mantener la confianza del usuario es su máxima prioridad y fortalecerá aún más el monitoreo y la gestión de cuentas maliciosas en el futuro. Openai también planea introducir más medidas de seguridad, incluido un mecanismo de auditoría de cuenta más estricto y un sistema de detección de comportamiento malicioso más inteligente para mejorar la seguridad general de la plataforma.
Puntos clave: Operai ha suspendido docenas de cuentas sospechosas para tomar medidas enérgicas contra el uso malicioso de ChatGPT. El informe señala que algunas cuentas usan CHATGPT para forjar noticias y materiales de búsqueda de empleo para cometer fraude. Operai comparte los resultados de la encuesta con otras compañías de tecnología y se compromete a mantener la reputación y la seguridad de la plataforma. A través de estas medidas, Operai espera proporcionar a los usuarios un entorno de servicio de IA más seguro y confiable.