La identidad de Naba Banerjee como “eterna aprendiz” la llevó a convertirse en la primera ingeniera de su familia. Esa curiosidad también ha influido en sus decisiones profesionales. Ahora, como directora de operaciones de confianza en la plataforma Airbnb, sigue dejándose guiar por la curiosidad mientras aplica su experiencia en ciencia de datos.

En este episodio del podcast Me, Myself, and AI, Naba se une a los anfitriones Shervin Khodabandeh y Sam Ransbotham para hablar sobre cómo ella y su equipo utilizan la IA y el aprendizaje automático para aumentar la seguridad de los huéspedes y anfitriones de Airbnb.

La mentalidad del innovador: Crear un mañana mejor con IA

También habla de la colaboración entre humanos y máquinas y de la importancia de reconocer que ninguno de los dos es infalible a la hora de tomar decisiones.

Suscríbete a Me, Myself, and AI en Apple Podcasts, Spotify o Google Podcasts.

Transcripción

Shervin Khodabandeh: El aprendizaje automático puede detectar actividades fraudulentas, pero también puede pasar por alto buenos comportamientos. Descubre cómo una empresa de plataformas gestiona estos riesgos y compensaciones en el episodio de hoy.

Naba Banerjee: Soy Naba Banerjee, de Airbnb, y están escuchando Me, Myself, and AI.

Sam Ransbotham: Bienvenidos a Me, Myself, and AI, un podcast sobre Inteligencia Artificial (IA) en los negocios. En cada episodio les presentamos a alguien que está innovando con IA. Soy Sam Ransbotham, profesor de analítica en el Boston College. También soy editor invitado de IA y estrategia empresarial en MIT Sloan Management Review.

Shervin Khodabandeh: Y yo soy Shervin Khodabandeh, socio sénior de BCG y uno de los líderes de nuestro negocio de IA. Juntos, MIT SMR y BCG han estado investigando y publicando sobre IA desde 2017. Hemos entrevistado a cientos de profesionales y encuestando a miles de empresas sobre lo que se necesita para construir y desplegar y escalar las capacidades de IA.

Sam Ransbotham: Hoy, Shervin y yo estamos hablando con Naba Banerjee, director de producto y operaciones de confianza en Airbnb. Naba, gracias por acompañarnos.

Naba Banerjee: Gracias; un placer estar aquí.

¿Qué hace Airbnb?

Sam Ransbotham: Creo que la mayoría de la gente conoce Airbnb, pero háblenos brevemente de la empresa y de lo que hace.

Naba Banerjee: Airbnb representa un lugar que fomenta la conexión y la pertenencia. Millones y millones de anfitriones abren sus casas a completos desconocidos, y tú y yo y nuestras familias podemos viajar a un destino exótico y, en lugar de alojarnos en un hotel, sumergirnos de verdad en la cultura local.

Regular el fenómeno de la IA: David Hardoon de Aboitiz Data Innovation

Y a veces, si tienes mucha suerte, puedes quedarte en casa de un anfitrión y vivir la experiencia de ser anfitrión tal y como debe ser, creando y fomentando la conexión y la pertenencia.

Y en este mundo que se está volviendo cada vez más insular y la conexión se está convirtiendo en algo raro, estoy muy contenta de formar parte de una empresa que está tratando de crear más conexión.

Lo que hace mi equipo, el equipo de confianza y seguridad de Airbnb, es a lo largo de todo el viaje del cliente, desde el momento en que se crea una cuenta en Airbnb y durante todo el viaje. A veces, es posible que algo salga mal: Que se cree una cuenta falsa o que se apropien de su cuenta.

El anuncio en el que está intentando alojarse podría ser falso. Las opiniones que está consultando podrían no ser exactamente auténticas. Pero nuestro trabajo es asegurarnos de que puedas centrarte en su estancia mágica, el anfitrión puede centrarse en ser perfecto.

Tratamos de anticipar algunos de estos riesgos, y reducir al mínimo el riesgo de que ese tipo de problemas ocurran. Y lo que hace mi equipo es utilizar la tecnología y los datos para hacer posible ese viaje mágico del usuario.

El número de fallas de Airbnb

Sam Ransbotham: Creo que todos oímos titulares en los que algo sale mal. ¿Cuánto falla en el curso de los miles de millones de transacciones que ustedes realizan?

Naba Banerjee: Es una gran pregunta. En 2021, tuvimos alrededor de 70 millones de viajes en Airbnb, y menos del 0.1 por ciento de esos viajes dieron lugar a que un anfitrión o un huésped informara de un posible problema durante la estancia.

Cuando nuestro equipo investigó los casos en los que se produjo un daño real o alguien tuvo que ser expulsado de la plataforma, esa cifra es aún menor.

Sé que incluso un incidente grave es probablemente demasiado grave y no debería ocurrir, pero a mayor escala de las cosas, uno se da cuenta de que la mayoría de la gente es buena. El 99.9 por ciento de la gente tiene la intención de dedicarse a sus asuntos cotidianos, disfrutar de una buena estancia o ser un buen anfitrión.

Ayudar a los médicos a tomar mejores decisiones con datos: Ziad Obermeyer de UC Berkeley

Pero a veces, en raras ocasiones en las que ocurre algo malo, y queremos asegurarnos de reducir el riesgo.

Si nos fijamos realmente en los casos en los que una persona causa daño a otra, esos incidentes son como una fracción de una fracción de una fracción. Pero cuando hablamos de seguridad, nos referimos a cosas como una fuga de gas de monóxido de carbono. Pueden ser resbalones y caídas; pueden ser daños materiales, como la rotura de un cristal o una mancha en la alfombra. También nos ocupamos de este tipo de cuestiones.

‘Los buenos somos más’

Shervin Khodabandeh: Lo que oigo de lo que dices es que tu papel es, número 1, un papel bueno. Eres el protector del bien y el “guardián” del mal, ¿verdad?

Naba Banerjee: Me encanta eso. Deberías formar parte de nuestro equipo de branding.

Shervin Khodabandeh: Es algo bueno, ¿verdad? Es un papel muy útil. Y la segunda parte es que estás hablando de incidentes microscópicamente pequeños.

Naba Banerjee: Sí, agujas en un pajar.

Shervin Khodabandeh: ¿Cierto? Y son problemas divertidos. Háblanos de lo que ocurre en la oscuridad.

Estudio de lo incidentes’malos’

Naba Banerjee: Yo diría que son tres partes. Una es que empezamos con el “por qué”, que es que somos los protectores de lo bueno y tratamos de alejar lo malo. Nunca podemos decir que detenemos todo lo malo.

Como dice Sam, eso no se puede hacer. Pero, ¿cómo aprendemos y mejoramos? Y ahí es donde entran en juego la IA y el ML (aprendizaje automático), donde nos preguntamos:

“¿Cómo podemos utilizar el poder de los datos y la tecnología para aprender y mejorar?”.

Y cada año, los riesgos no son los mismos; los datos siguen creciendo.

Lo digital es primero, lo físico después: Fiona Tan de Wayfair

Usar la tecnología de forma responsable

Y lo segundo es:

“¿Cómo usamos la tecnología de forma responsable?”.

Es decir, se podría ser demasiado contundente y tratar de bloquear todo lo posible para controlar específicamente el fraude y los incidentes de seguridad y mantenerlos bajos. Pero entonces, si los datos que se están utilizando para tomar estas decisiones tienen un sesgo, son potencialmente injustos, entonces se podrían cerrar las puertas a un montón de buenas personas que realmente sólo están tratando de tener una buena estancia.

Así que se trata de utilizar la tecnología de forma responsable. Se trata de tener mecanismos de autogobierno, es decir, tenemos nuestros equipos de privacidad de datos, de infoseguridad, de antidiscriminación, que son casi como espejos del equipo de confianza.

¿Están utilizando los datos de forma segura?

También hay otros equipos en Airbnb, donde cada vez que estamos realmente centrados en este vector de fraude en particular, esta detección de bots está constantemente asegurándose de que estamos utilizando los datos de una manera segura y de una manera transparente, dando a los usuarios el control y luego no introducir sesgo.

Tomar en cuenta la tecnología para ofrecer el mejor producto

Y luego, por último, tener formas de dar a la gente un camino de vuelta, es decir, vamos a tomar nuestra mejor decisión posible. Pero si nos equivocamos, ¿podemos crear transparencia y un proceso para que los usuarios apelen y vuelvan a la plataforma cuando los bloqueamos o eliminamos para que, de nuevo, podamos aprender y mejorar? Así, al más alto nivel, es como mi equipo está trabajando.

La IA como herramienta para ejercitarse: Ameen Kazerouni de Orangetheory Fitness

Así la aplicar la IA en cuestiones de seguridad en Airbnb

Shervin Khodabandeh: ¿Y cuáles son algunos de los casos de uso?

Naba Banerjee: Uno de los casos de uso que hemos hablado bastante es, ya sabes… Te voy a contar en una pequeña historia, que es, cuando me uní al equipo de confianza en 2020, el mundo acababa de cerrar. La pandemia estaba haciendo estragos. Y muy similar a cómo el mundo estaba esperando una vacuna, a la espera de una vacuna, entramos en modo de bloqueo.

Se trataba de un instrumento contundente para evitar que la gente se expusiera a situaciones que la harían insegura. Del mismo modo, Airbnb se convirtió en un desafortunado producto-mercado para fiestas en casas no autorizadas.

Cuando los hoteles y bares cerraron, desgraciadamente ese menos del 1 por ciento o 0.1 por ciento de usuarios que buscaban lugares donde celebrar esas fiestas, empezaron a alquilar Airbnb. Y como resultado, nos dimos cuenta de que estaba causando mucho dolor a nuestras comunidades de anfitriones y huéspedes que utilizan esta plataforma, que se basaba en una base de confianza.

Así que al principio tuvimos que utilizar instrumentos muy contundentes.

En primer lugar, instituimos nuestra prohibición global de fiestas, diciendo que Airbnb no permite ningún tipo de fiesta. En segundo lugar, empezamos a observar algunos patrones y descubrimos que los menores de 25 años que reservan una casa entera por una sola noche o dos noches a menos de 80 kilómetros de su casa parecen ser señales de fiestas.

Cuando hay fiestas, solemos encontrar que esa cuenta se creó ayer. Entonces implementamos una regla contundente llamada “menores de 25“, y pusimos eso en su lugar. Ahora, tuvimos que tener cuidado, porque esas reglas no funcionan exactamente a nivel mundial. Pero funcionó en Norteamérica, y enseguida vimos que se reducía el número de partes no autorizadas.

La gente comenzó a jugar con las reglas de Airbnb durante la pandemia

Pero con el tiempo, al igual que ocurre con las normas, vimos que la gente empezaba a jugar con ellas. Le pedían a un amigo mayor que les hiciera la reserva. Y en vez de una noche, reservaban tres, y así sucesivamente. El impacto en los buenos usuarios fue tan alto que dijimos: “Tenemos que pasar al aprendizaje automático, tenemos que ser más inteligentes”.

Medicina de precisión en la industria farmacéutica: Frank Nestle de Sanofi

Y así hicimos nuestro primer piloto en Australia, donde segmentamos el lugar y observamos el lugar que tenía este nuevo modelo de fiesta que habíamos construido frente al otro. ¿Vemos una reducción?

Y de nuevo, esto es como buscar una aguja en el pajar, pero aún así vimos un 35 por ciento menos de fiestas en la zona que tenía el modelo de fiesta frente a la que no. Cuando empezamos a experimentar en Norteamérica, vimos que era eficaz, con un impacto menor para los buenos usuarios.

Eso nos dio la confianza para seguir adelante, porque no hacer nada no era una opción. Teníamos que hacer algo y teníamos que ser inteligentes al respecto. Ese fue uno de los casos de uso en los que pudimos salir y hablar de ello, sin pretender detener a todas las partes, pero al menos Airbnb está adoptando una postura firme al respecto.

Adaptabilidad constante, el reto para las empresas contemporáneas

Shervin Khodabandeh: Un hilo común que escucho en su descripción del problema y la solución es la necesidad de una adaptabilidad constante y un aprendizaje continuo, y de utilizar el instrumento adecuado para el trabajo adecuado.

A veces es una regla, a veces es aprendizaje no supervisado, a veces hay intervención humana. Suena bastante multidisciplinar, incluida la parte en la que las reglas cambian, o cambia el modo de operar del defraudador, y también está la cuestión de

“¿Es demasiado contundente? ¿Limita algunos comportamientos no intencionados pero buenos o benignos?”.

¿Cómo funciona la colaboración o interacción entre humanos y máquinas en estas situaciones?

Naba Banerjee: Lo resumiste muy bien, Shervin. No es una cosa de uno-y-listo. Lo construyes y luego tienes que aprender constantemente y optimizar incluso el tipo de decisiones que tomas, así como la evolución del mundo que te rodea.

Y esa es un área en la que los humanos son realmente buenos, es decir, tienes que tener la disciplina de entrenar tus modelos con los datos más recientes, con los datos correctos. Debes tomar decisiones de compensación, llega un punto en el que tienes que decir: “OK, esto es arriesgado, y estamos listos para usar ese riesgo“.

Transformando las transacciones con tecnología: Nitzan Mekel-Bobrov de eBay

Aprovechar a los seres humanos para hacer más grande la IA

En Airbnb, hemos estado constantemente en este viaje de cómo aprovechar a los seres humanos en el bucle. Tengo un equipo de operaciones de confianza, además de los equipos de producto y planificación.

Este equipo de operaciones está formado por empleados a tiempo completo y agentes en todo el mundo. Y siempre que construimos un nuevo modelo, al principio solemos hacer que el modelo tome una decisión basada en el umbral de riesgo:

“Este es el 1 por ciento superior, este es el siguiente tramo y aquel es el siguiente tramo”.

Y, a veces, vamos a la ruta que los seres humanos a continuación, crear etiquetas en la parte superior de que decir: “Estoy de acuerdo con la decisión del modelo“, o “No estoy de acuerdo con la decisión del modelo”, que luego sirve como datos de entrenamiento de nuevo al modelo.

Y luego, cuando tengamos más confianza en la capacidad de decisión del modelo, pasaremos a la autodecisión. Este modelo de partido, a su punto, en este momento es completamente auto-decisión.

Pero lo que acaba ocurriendo es que, cuando recibimos una apelación de un usuario diciendo: “Me han bloqueado incorrectamente“, eso sirve como dato que nos comunica el cliente.

Y entonces un agente mira esa apelación y dice: “En realidad sí, esta decisión fue incorrecta“. Y si el agente tomó una decisión correcta, ese cliente apeló correctamente, y no ocurrió ningún incidente, sabemos que eso fue un falso positivo.

Los falsos negativos y las lecciones detrás de ellos

Pero digamos que el agente lo aprobó y luego el cliente se fue de fiesta; eso fue un falso negativo. Aprendemos de ello continuamente, pero lo hacemos de forma iterativa.

Primero, intentamos que el modelo se dirija a un humano. Y de nuevo, no hay garantía de que el humano sea mejor en la toma de decisiones que el modelo, pero medimos constantemente el rendimiento. Luego vamos hacia una toma de decisiones de orden superior toma de decisiones humana. Y a veces también tendremos digamos que el modelo del partido toma decisiones.

La gente sigue su camino, hace la reserva. A veces, una vez hecha la reserva, los humanos siguen mirando el 1 por ciento de las reservas más arriesgadas para intentar corregir lo que puedan.

Así que es tratar de equilibrar eso en cuanto a, ¿cuándo son los seres humanos las personas adecuadas para tomar la decisión? ¿Cuándo debe tomar la decisión la máquina? Ha sido un viaje no lineal y nada fácil.

Big Data en la agricultura: Teddy Bekele de Land O’Lakes

Equilibrio entre poner en marcha algo rápidamente u seguir con el proceso

Sam Ransbotham: Has mencionado en un primer momento que tal vez está revisando más casos y luego aprender de esos casos. Pero al mismo tiempo, suceden 70 millones de transacciones. ¿Cómo se equilibra la necesidad de poner algo en marcha rápidamente y, al mismo tiempo, seguir un proceso?

Naba Banerjee: Eso es probablemente lo más difícil, y lo más difícil en toda mi carrera diría que he tratado. Antes de esto, gestionaba todos los productos de Samsclub.com, que forma parte de Walmart, y entonces pensaba que mi trabajo era duro.

Mientras atendíamos a los clientes, ayudándoles a pasar por caja, seguía teniendo la sensación de que estábamos en una senda de crecimiento, y podíamos elegir lo rápido o lo lento que crecíamos. Y siempre tenía equipos que se ocupaban de las personas que intentaban darse de baja pero no podían y las atendían mientras construíamos una arquitectura a más largo plazo, pero no estaba en juego la vida de las personas.

En ese momento estaba en juego el dinero de las personas: estafadores que utilizaban tarjetas de crédito robadas y robaban millones de dólares a la empresa.

En Airbnb hay un equipo que intenta proteger lo bueno y ahuyentar lo malo. Lo que hacemos es que hay que ser muy bueno priorizando, lo que también es muy difícil de hacer en el mundo de la confianza y la seguridad.

Shervin Khodabandeh: Y en muchos sentidos, quiero decir, las opciones son las que, Sam, dijiste al principio: Este tipo de economías no están libres de riesgo. No pueden estar libres de riesgo. Y lo bueno supera colectivamente a lo malo, así que se trata de priorizar.

Pero tengo que decir que hemos hablado con muchas personas que desempeñan funciones análogas a las tuyas en otras organizaciones en las que utilizan la tecnología, la IA y ML digital para impulsar diversos casos de uso.

Creo que el tuyo destaca en el sentido de que es un acto de equilibrio continuo, y hay mucho en juego. Y luego tienes esta especie de hilo conductor de propósito y la humildad de decir:

“Bueno, creemos que vamos a cometer errores, y el sistema no puede estar libre de errores”.

Naba Banerjee: Sí.

Transformando una organización tecnológica para el futuro: Gerri Martin-Flickinger de Starbucks

Así es como Airbnb mide su eficacia al momento de proteger a los clientes

Shervin Khodabandeh: Pero con el tiempo, las cosas están mejorando. Lo que me lleva a la siguiente pregunta: ¿Cómo miden su eficacia? ¿Se mide por el número de incidentes y por la gravedad y frecuencia de las cosas malas que ocurren?

Naba Banerjee: Me alegro de que hayas hecho esta pregunta, porque yo naturalmente iba a ir hacia esto. Las métricas que nos medimos son el número de incidentes de fraude por millón de viajes, el número de incidentes de seguridad por millón de viajes, así como el impacto de buen usuario.

Esa es la métrica de equilibrio para ver “¿Cuántos buenos listados hemos bloqueado? ¿A cuántos buenos anfitriones y buenos huéspedes hemos impedido avanzar para comprender realmente nuestros falsos positivos y falsos negativos?”. Pero al fin y al cabo, lo que buscamos en general son buenos viajes.

También nos fijamos en los dólares en términos de pérdidas por fraude que pueden producirse. Nos fijamos en los tickets de atención al cliente que nos llegan, en los NPS (Net Promoter Scores) de los usuarios que se encuentran con una fricción provocada por nuestros equipos.

Así que, en un nivel básico, nos fijamos en estas métricas. Pero uno de los retos que, por primera vez, de nuevo, en mi carrera me he encontrado con que estamos constantemente iterando nuestros modelos.

Evitar actos benignos por eclipsar los malignos

Shervin Khodabandeh: Probablemente, cuando se hace eso, también se evitan comportamientos e intenciones bastante benignos. Pero como usted ha dicho, hay un punto en el que el juicio humano tiene que triunfar y decir que esto es algo en lo que incluso el riesgo para una persona podría ser demasiado alto.

Y sí, quiero decir, siempre hablamos de exploración cuando se trata de aprendizaje automático, y una especie de bucles de retroalimentación en curso, pero el aprendizaje siempre tiene un coste, ¿verdad?

Pero cuando te envío un mensaje de marketing que puede que no te guste, el coste del aprendizaje es muy mínimo, así que te enviaré muchos de ellos, y haré todo tipo de pruebas A/B/X.

Pero cuando hago ese tipo de pruebas A/B a grupos o poblaciones en los que hay más en juego, entonces es mejor que hagas ese juicio humano de no hacerlo y confiar en los datos retrospectivos.

Naba Banerjee: Sí.

Shervin Khodabandeh: Y creo que nos has aclarado muy bien ese punto.

Cómo invertir en IA: Hina Dixit de Samsung

¿Qué hace que un ser humano confíe en otro?

Naba Banerjee: Sí. Y una pregunta que nos hacemos es: ¿qué hace que un ser humano confíe en otro ser humano? ¿Qué hace que un ser humano confíe en Airbnb? Y nos estamos dando cuenta de que podemos entrenar todo tipo de modelos en segundo plano, y ni siquiera sabrías si estás en el umbral de riesgo del 1 por ciento o del 2 por ciento, o marcado como buen usuario.

Pero también es necesario que exista un diálogo entre Airbnb y usted como huésped o usted como anfitrión, o entre el anfitrión y el huésped, que infunda confianza de verdad. Como cuando le preguntamos a alguien: “¿Te sentirías cómodo enviando a tu hija de 17 años a casa de un desconocido en Grecia, cuando quiere ir de mochilera antes de entrar en la universidad?“.

Seguro que te das cuenta de que se trata de una experiencia personal. Tengo una hija de 17 años que está a punto de ir a la universidad. Y me di cuenta de que el primer pensamiento es: “No, no va a suceder“, y yo corro la confianza y la seguridad en Airbnb. Pero luego, cuando pienso:

“Bueno, si pudiera hablar con el anfitrión; si se va a quedar con otra persona en una casa; si esa persona es una madre como yo”.

Shervin Khodabandeh: Sí.

¿Dejarías a tu hijo en casa de un desconocido?

Naba Banerjee: Y nosotros, como Airbnb podría decir: “Estamos ejecutando todos estos modelos en el fondo, no se preocupe, su hija está a salvo”.

Creo que, como padre, querrás tener la información que necesitas ver, aunque tu juicio no sea mejor que el de la máquina. Así que también estamos trabajando en, ¿qué es lo que tenemos que decir, que tenemos que hacer?

Y a veces, cuando decimos cosas como: “Airbnb no va a permitir estancias de una noche que se reserven en el último minuto dentro del mismo barrio”, creo que también hace que muchos padres se sientan mejor, que de acuerdo, al menos esta opción ha desaparecido.

Ya se les ocurrirá otra cosa. Y ese mensaje no puede ser enrevesado. Ese mensaje tiene que ser sencillo. Ese mensaje tiene que entenderse claramente. Y además de pedir a la gente lo que no debe hacer, también tenemos que animarla a que adopte buenas conductas, como hablar con el presentador, hablar con el invitado, hacer preguntas.

Aprendizaje continuo con IA: Shelia Anderson de Aflac

Programa de viajeras solas en Airbnb

Hemos puesto en marcha un programa para viajeras solas. Esto porque empezábamos a ver un índice ligeramente superior de incidentes de seguridad personal en habitaciones privadas con viajeras solas.

Empezamos a animar a las mujeres a que averiguaran si iban a tener cerradura en la habitación. ¿Funcionará la cerradura? ¿Tendrás acceso al baño tú sola? ¿Qué espacios son compartidos? ¿Cuáles no? Así que no se trataba de un modelo que impidiera nada.

Se trataba simplemente de un módulo educativo que habíamos publicado en varios idiomas y que era realmente útil para nuestros viajeros en solitario. Parte del trabajo de mi equipo consiste no sólo en construir defensas invisibles, sino también en crear confianza y la percepción de confianza por adelantado a través de la educación y la mensajería.

Shervin Khodabandeh: Muy bien dicho. Tengo que decir que ha mencionado que es madre de cinco hijos. Tengo que decir que creo que estás en un terreno muy sólido.

Naba Banerjee: Sí. Por cierto, estoy encantado de hablar con tus hijos. Cuando quieras.

Shervin Khodabandeh: Sí, sería estupendo. Te tomaré la palabra.

Métricas positivas para Airbnb

Sam Ransbotham: Una cosa acerca de sus mediciones que me pareció interesante, tal vez volver un poco a eso. También mencionaste algunas métricas positivas. Así que creo que es un poco tentador, y creo que incluso en esta conversación que hemos hecho eso, es que titrate hacia el negativo. Y ese es el problema de las noticias en general, que las malas noticias venden periódicos.

Bueno, creo que en el curso de esta conversación, hemos cambiado hacia eso. Pero algunas de las métricas que has mencionado me han parecido más positivas, ¿no?

Naba Banerjee: Sí, absolutamente. Ha sido una epifanía que hemos tenido en los últimos años, porque cualquier modelo de aprendizaje automático suele funcionar bien cuando hay muchos datos de los que aprender.

Y con este tipo de casos, en los que de 70 millones de viajes o más, cuando el 0.1 por ciento de ellos da lugar siquiera a un informe, y una fracción de una fracción de ellos da lugar a un incidente real en el que alguien es expulsado, hay muy poco de lo que aprender. Como resultado, estos modelos tardan en madurar.

Por supuesto, con la evolución de la tecnología, esto va a mejorar, pero nos dimos cuenta de que tenemos muchos más datos sobre el buen comportamiento de los usuarios.

Tenemos muchos más usuarios que vienen, reservan su estancia con meses de antelación, probablemente llegan a tiempo, dejan la propiedad incluso mejor de lo que la encontraron. Además, se comunican con el anfitrión y los huéspedes, dejan reseñas honestas.

Confianza y detección de fraudes a escala: Stephanie Moyerman de Instagram

Por lo tanto, si realmente podemos darle la vuelta al interruptor, y aunque tenemos que seguir buscando las anomalías y las tendencias y los malos actores. Si podemos llegar a ser realmente buenos en el aprendizaje de lo que parece un buen comportamiento al tiempo que nos aseguramos de que también estamos midiendo los posibles prejuicios o la discriminación y el cumplimiento de la privacidad en la forma en que recopilamos y utilizamos estos datos, entonces eso puede ser realmente poderoso para informar cuando algo parece arriesgado.

Ejemplos de seguridad

Por ejemplo, si normalmente se accede a una cuenta desde los Estados Unidos y de repente vemos que esa IP está accediendo ahora desde Filipinas, y parece como si “Oh, esto es una toma de cuenta”.

Pero si se trata de un buen usuario que normalmente ha estado viajando por todo el mundo bastante, tal vez esto no es una toma de posesión de la cuenta, y hay historia allí desde el buen comportamiento del usuario para que seamos más inteligentes acerca de “¿Qué parece normal y lo que parece una anomalía?” No de forma amplia, sino muy específica, basada en el segmento de usuarios.

Así que no se trata de algo nuevo, pero creo que a veces tendemos a obsesionarnos con aprender realmente qué aspecto tiene el mal comportamiento y a ser buenos detectándolo. Esto en lugar de complementar qué aspecto tiene una anomalía en comparación con el comportamiento normal.

Sesgos, el enemigo a vencer de Airbnb

Shervin Khodabandeh: Sí. Tienes tal riqueza de conocimientos e información en un campo que es realmente un campo en evolución. Quiero decir, no es como una típica situación de filtrado colaborativo donde “usuarios como tú también compraron esto”. Quiero decir, pasa mucho más en términos de coincidencia. Debe de ser un problema muy interesante y que merece la pena abordar.

Naba Banerjee: Sí. Y requiere que salgamos de nuestro sitio de confianza y seguridad y trabajemos muy estrechamente con nuestros equipos de búsqueda, relevancia y personalización porque nuestro trabajo no es sólo hacer el filtrado colaborativo y decir: “La gente como tú compró esto, así que deberías comprar esto“, o “Viajaste a París, así que tal vez la próxima vez quieras ir a Roma”.

Se trata de que si estás viajando con la familia esta vez y tienes niños pequeños; probablemente quieras guardería, y sabemos que este anfitrión ofrece guardería. Entonces, este lugar podría ser estupendo para ti.

O si el mismo cliente viaja solo, quizá necesitemos ofrecerle otras recomendaciones. Y tener estas señales de confianza y seguridad integradas en nuestros algoritmos de búsqueda de relevancia puede ser realmente poderoso para emparejar a la persona adecuada con el anuncio adecuado.

Las asociaciones en IA ayudan a cuidar el planeta: Dave Thau de WWF

¿Cómo llegó Naba Banerjee a Airbnb?

Sam Ransbotham: Naba, no empezaste en Airbnb. Cuéntanos un poco cómo llegaste allí. Has mencionado Walmart y algunos antecedentes allí, pero ¿cómo acabaste en tu puesto actual?

Naba Banerjee: Fui la primera ingeniera de mi familia. Mi padre apostó por mí y me dijo: “Eres curiosa. Siempre estás aprendiendo. ¿Quieres hacer ingeniería?.

Yo no tenía ni idea de lo que era la ingeniería en aquel momento, pero me apunté de todos modos y llegué a ser la primera mujer ingeniera de mi familia.

Trabajé en Tata Consultancy Services, luego pasé a Cognizant, llegué a Estados Unidos a través de Cognizant y trabajé un tiempo en AAA. No dejaba de ir a proyectos y trabajos diferentes que me ayudaran a aprender algo completamente nuevo.

Walmart, las verdadera enseñanzas del gigante del comercio

Walmart sucedió alrededor de 2006. Me pidieron que trabajara en la cadena de suministro de Walmart, que es probablemente, si quieres aprender la cadena de suministro en una empresa, la empresa a la que debes ir. Y mientras trabajaba en la cadena de suministro, cada año iba adquiriendo mayores responsabilidades y proyectos hasta que me encontré, desde Walmart, dirigiendo casi todos los equipos de la cadena de suministro hasta ir a Sam’s Club.

Esto me dio la oportunidad de adquirir una experiencia completa aprendiendo cómo funciona el back-end de un gran minorista, así como la experiencia del cliente front-end.

Y justo después de Sam’s Club, me pidieron que dirigiera la búsqueda. Por aquel entonces, estaba empezando a interesarme por un mundo basado en el aprendizaje automático e IA. Hice un curso del MIT, curiosamente, para aprender sobre la aplicación de la IA y el ML, y eso me dio el valor para aceptar el trabajo de búsqueda.

Y a partir de ahí, Airbnb sucedió, después de 13 años, casi, en Walmart. Tenía tanta curiosidad por la industria de viajes y este mercado que era tan diferente de todo lo que había hecho en Walmart.

Así que el tema aquí es que siempre he gravitado hacia algo que me ayuda a aprovechar las habilidades que tengo. pero luego usar mi curiosidad y el aprendizaje para hacer algo completamente nuevo y construir a mí mismo a medida que avanzo. Esa es mi trayectoria.

Tomar 600 mil millones de decisiones con IA: Rathi Murthy de Grupo Expedia

Sección de preguntas rápidas

Shervin Khodabandeh: Naba, ahora tenemos una sección en la que te hacemos una serie de preguntas rápidas, y dinos lo primero que se te ocurra. ¿Cuál es el momento del que se siente más orgulloso?

Naba Banerjee: Me está pidiendo que elija entre mis diferentes equipos, lo que limita mi carrera. Pero diré que el trabajo que hicimos en la detección de fiestas y la reducción del riesgo de fiestas fue pionero, y no hay nadie más en la industria que lo haya hecho como nosotros.

‘¿Qué te preocupa de la IA?’

Shervin Khodabandeh: Es una gran respuesta. ¿Qué te preocupa de la IA?

Naba Banerjee: Lo que me preocupa es lo poderosa que es. Tuvimos la oportunidad de ver de cerca y en persona a Sam Altman, CEO de OpenAI, cuando vino a Airbnb. Y lo rápido que está mejorando esta tecnología y la capacidad que tiene.

Me preocupa que caiga en las manos equivocadas. Me preocupa que, aunque mi equipo disponga de esta tecnología, los estafadores también la tengan, y por eso me preocupa que, si hoy nos preocupan las identificaciones falsas, más adelante nos preocuparán cosas más graves. Pero creo que la inteligencia artificial también ayudará a detectar la falsa.

Actividad favorita sin tecnología

Shervin Khodabandeh: ¿Tu actividad favorita que no implique tecnología?

Naba Banerjee: Pintar con acuarelas. Me encanta pintar la naturaleza. Lo que más me gusta es el papel, las acuarelas, la paz y la tranquilidad, sin tecnología. Y, por supuesto, abrazar a mis hijos y pasar tiempo con ellos escuchando su día, intentando que no estén con el móvil mientras hablan conmigo. Esos dos.

‘¿Qué querías ser de niña?’

Shervin Khodabandeh: Muy bien dicho. La primera carrera que querías: ¿Qué querías ser de mayor?

Naba Banerjee: Quería ser profesora. Vengo de una familia de profesores y siento mucha alegría cuando veo que a alguien se le iluminan los ojos con el don del conocimiento. Siempre estoy aprendiendo. Cada trabajo que acepto es completamente diferente del anterior; es porque me encanta aprender. Así que, sí, eso es lo que quería ser.

Shervin Khodabandeh: Y, de todos modos, es probable que en tu trabajo actual se dedique bastante a la enseñanza.

Naba Banerjee: Hago mucha tutoría.

Shervin Khodabandeh: Nos has enseñado mucho.

Naba Banerjee: Gracias, gracias. Hago mucho de mentor, porque creo que si otra persona puede verme hacer lo que hago, sentirá que también puede hacerlo. Así que si puedo hacerlo, habré cumplido la misión de mi vida.

Una ventanilla única de datos: Anders Butzbach Christensen de Grupo Lego

Deseo para la IA en el futuro

Shervin Khodabandeh: ¿Cuál es su mayor deseo para la IA en el futuro?

Naba Banerjee: Mi mayor deseo para el mundo, en realidad, es que no tenga tanto miedo; que le dé una oportunidad. Porque creo que a veces el miedo a lo malo nos impide abrazar lo bueno.

Hay tanto esfuerzo desperdiciado en actividades que deberían automatizarse mediante la IA: tantos pacientes que no reciben tratamiento, tantas empresas que probablemente necesiten ayuda y financiación para poner en marcha cosas básicas que puede hacer la IA.

Tantos países, probablemente, que están subdesarrollados que podrían obtener tantas ventajas. Sé que cuando cae en las manos equivocadas puede utilizarse para hacer el mal, pero en el mundo hay más gente buena que mala, y creo en el poder de utilizar la IA para hacer el bien, utilizando nuestra bondad colectiva.

Sam Ransbotham: Creo que todo el mundo estará de acuerdo con tu idea de que el mundo es mejor que malo. Tendemos a oír la mayoría de las historias negativas, pero es refrescante oír algo sobre las buenas historias que permite su plataforma.

Gracias por tomarse el tiempo de hablar hoy con nosotros. Lo hemos disfrutado.

Naba Banerjee: Gracias, Sam. Gracias, Shervin. Ha sido un placer.

Sam Ransbotham: Gracias por escuchar. La próxima vez, nos acompañará Zan Gilani, director de producto. Por favor, únanse a nosotros.

Cierre del episodio

Allison Ryder: Gracias por escuchar Me, Myself, and AI. Creemos, como tú, que la conversación sobre la implementación de la IA no empieza y termina con este podcast.

Por eso hemos creado un grupo en LinkedIn específicamente para oyentes como tú. Se llama AI for Leaders, y si te unes a nosotros, podrás charlar con los creadores y presentadores del programa, hacer tus propias preguntas, compartir tus puntos de vista y acceder a valiosos recursos sobre la implementación de la IA del MIT SMR y BCG.

Puedes acceder visitando mitsmr.com/AIforLeaders. Pondremos ese enlace en las notas del programa, y esperamos verte allí.

SOBRE LOS ANFITRIONES

Sam Ransbotham (@ransbotham) es profesor del departamento de sistemas de información de la Carroll School of Management del Boston College. Shervin Khodabandeh es socio sénior y director gerente de BCG y colíder de BCG GAMMA (la práctica de IA de BCG) en Norteamérica. Puede ponerse en contacto con él en shervin@bcg.com.

Me, Myself, and AI es un podcast en colaboración de MIT Sloan Management Review y Boston Consulting Group, presentado por Sam Ransbotham y Shervin Khodabandeh. Nuestro ingeniero es David Lishansky, y las productoras coordinadoras son Allison Ryder y Sophie Rüdinger.

Síguenos en Google News