El jefe de Google U.K. dice que no se puede confiar en su chatbot Bard para obtener información precisa

El jefe de Google U.K. no confía en su chatbot Bard para obtener información precisa.

“Sabemos que las personas confían en Google para obtener información precisa y estamos animando a las personas a utilizar Google como motor de búsqueda” cuando se trata de verificar las respuestas de Bard, dijo Debbie Weinstein, directora gerente de Google Reino Unido, en una entrevista con la BBC emitida el viernes.

Agregó que Bard no es realmente el lugar al que se acude para buscar información específica.

La página de inicio de Bard reconoce sus “limitaciones” y admite “y las imperfecciones ocasionales”, no siempre acertará, pero omite el consejo de Weinstein de verificar todos los resultados utilizando un motor de búsqueda tradicional.

¿Puedes confiar en cualquier chatbot?

Bard, al igual que otros chatbots de IA, puede “alucinar” o proporcionar información inexacta cuando se le hace una pregunta.

Los detalles fabricados y las respuestas inexactas son un problema común en la industria, incluso para los modelos de lenguaje más grandes y nuevos como el GPT-4 de OpenAI.

“Nadie en el campo ha resuelto aún el problema de la alucinación”, dijo Sundar Pichai, CEO de Alphabet, la empresa matriz de Google, en el programa “60 Minutes” de CBS en abril.

Bard cometió un costoso error durante su demostración en febrero, cuando un hecho mal declarado hizo que Alphabet perdiera $100 mil millones en valor de mercado.

El bot también cometió varios errores al responder preguntas básicas de SAT, en respuesta a indicaciones de ANBLE. En ese momento, un portavoz de Google advirtió que Bard “podría ser inexacto, por lo que se recomienda verificar la información en las respuestas de Bard”.

Una forma en que las personas podrían mejorar Bard es brindando comentarios sobre si el bot ayudó en una situación determinada, sugirió Weinstein.

¿Dónde deja esto a Google en la carrera de IA?

El gigante de las búsquedas ha sido un pionero en la investigación de IA, pero ahora enfrenta una fuerte competencia de otras empresas de tecnología como Microsoft.

En mayo, un ingeniero destacado de Google afirmó que la compañía no tenía “ninguna fórmula secreta” y podría quedarse rezagada en la carrera de armamentos de IA como resultado, según Bloomberg.

Otros expertos han advertido sobre los peligros de escalar la IA sin saber cómo regularla, incluido el ex CEO de Google, Eric Schmidt.

“El ‘padrino’ de la IA, Geoffrey Hinton, quien trabajó en Google y ayudó a sentar las bases de las tecnologías de IA actuales, expresó preocupaciones similares en mayo, diciendo que dejó el gigante tecnológico para poder hablar libremente sobre ‘los peligros de la IA’.

Google también enfrenta el desafío de equilibrar sus ambiciones de IA con la preservación de su negocio de búsqueda y publicidad, la fuente más lucrativa de ingresos del gigante tecnológico.

Anble se ha puesto en contacto con Google para obtener comentarios.