Yep y Ahrefs con IndexNow. Datos más frescos, indexación más rápida y el anuncio de una función de auditoría de sitios que cambiará las reglas del juego

Patrick Stox
Patrick Stox es asesor de producto, técnico en SEO y embajador de marca Ahrefs. Organiza el Raleigh SEO Meetup, Raleigh SEO Conference, Beer & SEO Meetup, Findability Conference y modera en / r / TechSEO.
Me alegra anunciar que Yep, nuestro motor de búsqueda y Ahrefs admitirán IndexNow junto con Microsoft Bing, Yandex, Naver y Seznam.cz.

Esto nos coloca en una posición única. No solo somos una herramienta de SEO que enviaremos datos a IndexNow, sino que también somos un motor de búsqueda y la primera y única herramienta de SEO que recibirá datos de IndexNow.

Ahrefs ofrece a los usuarios una razón para usar IndexNow además de un rastreo e indexación más rápidos en los motores de búsqueda. Encontraremos y te alertaremos sobre problemas en tu sitio más rápido de lo que jamás pensaste que fuera posible. Sigue leyendo para descubrir lo que tenemos planeado.

¿Qué es IndexNow y qué significa para los usuarios de Ahrefs?

IndexNow es un protocolo que hace ping a los motores de búsqueda cuando se realizan cambios en tu sitio web. Si agregas, actualizas, eliminas o rediriges páginas, los motores de búsqueda participantes pueden detectar los cambios más rápidamente.

En lugar de depender de rastreos periódicos o mapas de sitio, que pueden ser lentos o incompletos, IndexNow permite a los editores web enviar solicitudes HTTP que contengan la URL o el conjunto de URL que desean indexar o actualizar.

Las solicitudes se envían directamente a uno de los endpoints de IndexNow de los motores de búsqueda participantes, que luego pueden procesarlas y reflejar los cambios en sus índices. Cada motor de búsqueda notifica a otros motores de búsqueda de IndexNow para cada notificación de IndexNow.

Como dijo Fabrice, cuando se hace ping a un socio de búsqueda, toda la información se comparte con los demás socios. Yep & Ahrefs tendrán un índice más actualizado de la web. Así es como funciona:

When websites ping IndexNow, the data gets shared with other search engines.

A octubre de 2023, había más de 60 millones de sitios web haciendo ping a 1.400 millones de URLs al día en IndexNow. En marzo de 2024, esta cifra asciende ahora a 2.500 millones de URL por día. Esto incluye sitios web en Cloudflare, WordPress, Wix, Duda y más. Si aún no lo estás utilizando, consulta a tu CMS sobre la implementación de IndexNow de forma nativa o busca un complemento que agregue soporte.

Botify, OnCrawl, ContentKing y algunas otras herramientas de SEO también hacen ping a IndexNow cuando rastrean y ven cambios en los sitios web. Esto ayuda a que las páginas de sus clientes se indexen y actualicen en los motores de búsqueda más rápidamente.

También haremos ping a IndexNow con cualquier cambio que veamos en Site Audit de Ahrefs. Actualmente rastreamos más páginas que otras herramientas de auditoría de sitios basadas en la nube, aproximadamente entre 600 y 700 millones de páginas por día, por lo que ingresaremos mucha información en IndexNow.

A diferencia de otras herramientas de SEO, también recibiremos los datos enviados. ¡Esto nos abre algunas capacidades interesantes para ti!

Aquí hay un adelanto de lo que hemos planeado.

Hemos trabajado arduamente para crear una opción de rastreo constante para Site Audit. La idea es pasar de rastreos programados, que los usuarios tienden a programar semanalmente o mensualmente, a un sistema de rastreo priorizado que esté siempre activo y notifique a los usuarios sobre los problemas más rápidamente.

IndexNow nos permite agregar una opción en tiempo real y al mismo tiempo podremos ahorrar recursos para nuestros usuarios y para nosotros mismos. Entraré en más detalles sobre los recursos guardados en un momento.

Para los sitios que utilizan IndexNow y la nueva opción en tiempo real en Auditoría del sitio, podremos notificar a los usuarios sobre los problemas poco después de que realicen actualizaciones en sus páginas. Así es como se verá:

No puedo pensar en un sistema que sea mejor que este. Un sistema real de seguimiento y alerta en tiempo real. Es un sueño hecho realidad.

Ya tenemos los mejores datos de enlaces de cualquier herramienta de SEO, pero IndexNow significará que veremos cambios aún más rápido y tendremos datos más actualizados que nunca. También hará que nuestra herramienta Page Inspect sea aún más útil. Podremos ver cualquier cambio en el sitio web más rápido y siempre tendremos copias de cualquier cambio que se haya realizado.

IndexNow ahorra recursos

IndexNow es bueno para los propietarios de sitios web, es bueno para nosotros y es bueno para el planeta. Reducirá la carga de los sitios web y ahorrará energía y recursos.

Los bots representan una buena parte del tráfico web, aproximadamente el 30% del tráfico total según Cloudflare Radar. Gran parte de ese tráfico pertenece a bots malos, pero los bots buenos, como los rastreadores de motores de búsqueda, todavía representan aproximadamente el 5% del tráfico global de Internet.

Cloudflare Radar shows that bots make up ~30% of global web traffic.

Cloudflare tiene una lista verificada de buenos bots. Notarás que muchos de los principales robots son rastreadores de motores de búsqueda y, por supuesto, Ahrefs.

Cloudflare good bots list shows AhrefsBot at number 6

Se estima que Eel 53% del tráfico de los rastreadores es esfuerzo desperdiciado. Esto se debe a los llamados rastreos exploratorios. Los bots rastrean páginas con dos propósitos principales. Quieren descubrir nuevas páginas y actualizar las existentes. Antes de IndexNow, no existía un mecanismo directo para informar a los rastreadores sobre los cambios en tu sitio.

¿Alguna vez has realizado un cambio en una página y sientes que los motores de búsqueda o las herramientas de SEO tardan una eternidad en detectarlo? Esto se debe a que los robots básicamente adivinan cuándo se debe volver a rastrear una página. Así funciona actualmente:

Bots guess when to re-crawl a page to see if changes have been made

De Cloudflare:

El Boston Consulting Group estima que el funcionamiento de Internet generó el 2% de toda la producción de carbono, o alrededor de mil millones de toneladas métricas por año. Si el 5% de todo el tráfico de Internet son buenos robots y el 53% de ese tráfico se desperdicia por un rastreo excesivo, entonces encontrar una solución para reducir el rastreo excesivo podría ayudar a ahorrar hasta 26 millones de toneladas de costos de carbono por año. Según la Agencia de Protección Ambiental de Estados Unidos, eso equivale a plantar 31 millones de acres de bosque, cerrar para siempre 6 centrales eléctricas alimentadas con carbón o sacar de circulación 5,5 millones de vehículos de pasajeros.

¡Esa es una enorme cantidad de recursos desperdiciados! Si todos los sitios adoptaran IndexNow, se ahorrarían muchos recursos. Comienza a usarlo si aún no lo has hecho. ¡Pregúntale a tu CMS, pregúntale a tu CDN, pregúntale a tu proveedor de alojamiento web!

Con IndexNow, así es como funciona:

How crawling works with IndexNow to update the index

Las páginas no se volverán a rastrear hasta la próxima vez que se realicen cambios, o al menos ese es el objetivo final. Es probable que aún se realice un nuevo rastreo exploratorio para garantizar que todo funcione según lo previsto y que recibamos las actualizaciones de todos los cambios.

Considero IndexNow como una mejor versión de los sitemaps

Las API de indexación en las que notifica a los motores de búsqueda sobre los cambios tienen mucho sentido. Recuerdo que los presenté como el sucesor de mapas del sitio en una reunión local hace unos 5 años. No es necesario que adivines cuándo se actualizan las páginas si los sitios web te informan cuándo se actualizaron.

Así es como IndexNow es mejor que los mapas de sitio:

  1. Es más rápido. Los motores de búsqueda normalmente revisan los mapas del sitio cada pocos días o cada pocas semanas. Un ping en IndexNow tarda solo unos segundos en pasar la información.
  2. Admite más que páginas en vivo. Con los mapas de sitio, se supone que solo debes incluir páginas activas con código de estado 200. Con IndexNow, también puedes hacer ping a páginas 404/410 o redirigidas.
  3. Protege más de tus datos. Puede que no lo sepas, pero muchos sitios importantes ocultan sus mapas de sitio porque proporcionan inteligencia competitiva a empresas competidoras. Es posible que hayas oído hablar del atraco de SEO en el que el SEO utilizó IA generativa para recrear todas las páginas que se encuentran en el mapa del sitio de un competidor. Con IndexNow, no hay nada que copiar. No hay hoja de ruta para tu contenido.
  4. <lastmod> en los mapas del sitio no es confiable. Se utilizan como pista al rastrear porque no siempre se puede confiar en ellos. A veces no hay <lastmod>, a veces se establece como la fecha de creación del mapa del sitio o en el momento de creación de la página. Sólo algunos sitios actualizan esto cuando se actualiza el contenido.
  5. Distribución más amplia. No todo el mundo incluye sus mapas de sitio en sus archivo robots.txt, y si bien pueden cargar sus mapas de sitio en un motor de búsqueda, es poco probable que los hayan cargado en todos los motores de búsqueda. Con IndexNow, cualquier actualización se envía a múltiples motores de búsqueda.

Conclusiones finales

Adopta IndexNow. Pregunta a tus CDN, pregunta a tus CMS, pregunta a tus servidores web, pide a todos que lo implementen si no lo han hecho. Si alguien conoce a alguien que pueda ayudar a implementar esto en WordPress Core, comunícate conmigo, te lo agradecería. Si algún empleado de Google está leyendo esto, esto también es un empujón para ti.

Estoy emocionado de ver qué avances aporta IndexNow a las pruebas de SEO. Imagina poder obtener comentarios casi en tiempo real sobre el impacto de tus cambios. Podrás ver qué funciona más rápido e iterar sobre las mejoras. ¡El SEO se volverá aún más interesante!

Si tienes preguntas, envíame un mensaje por X o LinkedIn.