Як працюють...

46
Як працюють Яндекс.Новини Лев Гершензон, Тетяна Ісаєва, Наталія Родіонова Львів, 9 грудня 2010

Transcript of Як працюють...

Page 1: Як працюють Яндекс.Новиниcache-ash03.cdn.yandex.net/download.yandex.ru/company/experience/... · •В Яндекс.Новини потрапив передрук

Як працюють Яндекс.Новини

Лев Гершензон, Тетяна Ісаєва, Наталія Родіонова

Львів, 9 грудня 2010

Page 2: Як працюють Яндекс.Новиниcache-ash03.cdn.yandex.net/download.yandex.ru/company/experience/... · •В Яндекс.Новини потрапив передрук

1

Завдання Яндекс.Новин

Місія Яндекса – відповідати на поставлені та

непоставлені питання користувачів

Яндекс.Новини:

• На головній сторінці Яндекса задовольняють

потребу користувачів в актуальній інформації

Непоставлене питання: «Що зараз відбувається?»

• У Пошуку відповідають на явно сформульовані

питання користувачів

Поставлені питання: «голова «Нафтогазу»,

«Металіст Дебрецен 2:1», «Мирон Маркевич»

Page 3: Як працюють Яндекс.Новиниcache-ash03.cdn.yandex.net/download.yandex.ru/company/experience/... · •В Яндекс.Новини потрапив передрук

Принципи Яндекс.Новин

• Повністю автоматичний сервіс

• Партнерський сервіс

• Єдині вимоги для всіх партнерів

• Дзеркало медіа-середовища

Мета:

відобразити новинну картину дня і дати

посилання на джерела, які містять найбільш

повну інформацію про події

2

Page 4: Як працюють Яндекс.Новиниcache-ash03.cdn.yandex.net/download.yandex.ru/company/experience/... · •В Яндекс.Новини потрапив передрук

Модель сервісу

• Забезпечують швидку

трансляцію контенту

(50 тис. повідомлень на добу)

• Отримують читачів

(2,6 млн переходів на добу)

• Дізнаються новини на Яндексі

(5-10 млн осіб на добу)

• Читають подробиці у

джерелах (1,5 млн осіб на

добу)

• Ставлять питання про новини

(500 тис. запитів на добу)

Читачі

Видання

3

Page 5: Як працюють Яндекс.Новиниcache-ash03.cdn.yandex.net/download.yandex.ru/company/experience/... · •В Яндекс.Новини потрапив передрук

News.yandex.ua

• Забезпечують швидку

трансляцію контенту

(9 тис. повідомлень на добу)

• Отримують читачів

( 230 тис. переходів на добу)

• Дізнаються новини на Яндексі

(1,2 млн осіб на добу)

• Читають подробиці у

джерелах (80 тис. осіб на добу)

• Ставлять питання про новини

(24 тис. запитів на добу)

Читачі

Видання

4

Page 6: Як працюють Яндекс.Новиниcache-ash03.cdn.yandex.net/download.yandex.ru/company/experience/... · •В Яндекс.Новини потрапив передрук

Інтереси учасників

• Усі хочуть трафік

• Першоджерела хочуть

пріоритетного розміщення та

придушення рерайтерів

• Оптимізатори хочуть прозорих

правил

• Хочуть швидко дізнаватися,

чи не трапилося щось

• Якщо раптом трапилося,

отримати посилання на

статтю від знайомого джерела

• Отримати посилання на

першоджерело

Читачі

Видання

5

Page 7: Як працюють Яндекс.Новиниcache-ash03.cdn.yandex.net/download.yandex.ru/company/experience/... · •В Яндекс.Новини потрапив передрук

Інтереси Яндекс.Новин

•Розширення аудиторії, підвищення її

лояльності

– якісний сервіс

•Залучення нових постачальників

цікавої інформації та збереження вже

наявних

– вигідна для партнерів модель співпраці

6

Page 8: Як працюють Яндекс.Новиниcache-ash03.cdn.yandex.net/download.yandex.ru/company/experience/... · •В Яндекс.Новини потрапив передрук

Новинний контент

• Відповідність формату (не підходять для

трансляції реклама, прес-релізи компаній, блоги, тв-

програма, гороскопи...)

• Технічні вимоги (доступність сайту, окремі адреси

для кожного повідомлення...)

• Вимоги законодавства (захист прав на

інтелектуальну власність; протидія тероризму;

захист честі, гідності, репутації…)

7

Page 9: Як працюють Яндекс.Новиниcache-ash03.cdn.yandex.net/download.yandex.ru/company/experience/... · •В Яндекс.Новини потрапив передрук

Проблеми, які трапляються найчастіше

«

• Наше повідомлення не потрапило в сюжет

• Від розміщення повідомлення в експортному файлі до

появи його в Яндекс.Новинах минає забагато часу

• В Яндекс.Новини потрапив передрук нашої замітки

• Ми змінили текст повідомлення на своєму сайті.

Внесіть ці зміни у вашу базу даних

»

8

Page 10: Як працюють Яндекс.Новиниcache-ash03.cdn.yandex.net/download.yandex.ru/company/experience/... · •В Яндекс.Новини потрапив передрук

Що таке «дублікат»

Дублікати – документи, які дуже збігаються з

оригінальним повідомленням. У Яндекс.Новинах

дублікати автоматично визначаються до

формування сюжету. Вони не представлені в

сюжетах і не беруть участі в пошуку на сервісі.

З кожної групи дублікатів залишається по одному

повідомленню («майстру»), яке може бути

представлене на сторінках сюжету та в

результатах пошуку. «Майстер» визначається:

– за часом публікування повідомлення на сайті;

– за порівняльним аналізом текстів;

– за цитуванням джерела (враховуються гіперпосилання,

текстові згадки).

9

Page 11: Як працюють Яндекс.Новиниcache-ash03.cdn.yandex.net/download.yandex.ru/company/experience/... · •В Яндекс.Новини потрапив передрук

Спеціальний інструмент для

партнерів

Призначений для пошуку схожих новинних повідомлень

(дублікатів, запозичень, цитат тощо)

Використовуються ті ж алгоритми, що і в масовому

сервісі Яндекс.Новини, що дає можливість побачити всі

помилки алгоритму в розмітці дублікатів

Дублікати україномовних повідомлень шукаються серед

україномовних повідомлень.

10

Page 12: Як працюють Яндекс.Новиниcache-ash03.cdn.yandex.net/download.yandex.ru/company/experience/... · •В Яндекс.Новини потрапив передрук

Дефолтна сторінка

partner.news.yandex.ru/dups-form.xml

11

Page 13: Як працюють Яндекс.Новиниcache-ash03.cdn.yandex.net/download.yandex.ru/company/experience/... · •В Яндекс.Новини потрапив передрук

Інформація від партнерів

За достовірність інформації відповідають наші

партнери.

Якщо інформацію на сайті змінено, необхідно

протранслювати в Яндекс.Новини актуальний

варіант.

Це стосується будь-якої частини повідомлення:

посилання <link>, заголовка <title>, тексту

<yandex:full-text>, часу публікування <pubDate>

тощо.

12

Page 14: Як працюють Яндекс.Новиниcache-ash03.cdn.yandex.net/download.yandex.ru/company/experience/... · •В Яндекс.Новини потрапив передрук

Релевантна новинна відповідь

Алгоритм, що формує відповідь на новинні запити

користувачів, орієнтується на такі властивості

повідомлення:

–Першоджерело

–Оперативність

–Цитованість

–Інформативність

Відповідно джерела, в яких домінують такі

повідомлення, пропонуються користувачам у першу

чергу.

13

Page 15: Як працюють Яндекс.Новиниcache-ash03.cdn.yandex.net/download.yandex.ru/company/experience/... · •В Яндекс.Новини потрапив передрук

Основні продукти Яндекс.Новин

1. Сторінка сюжету

2. Новинний блок на головній сторінці

Яндекса

3. Головна сторінка Новин, сторінки

рубрик

4. Пошук у новинах (новинні результати в

пошуку Яндекса)

5. Новини в основній видачі Яндекса

14

Page 16: Як працюють Яндекс.Новиниcache-ash03.cdn.yandex.net/download.yandex.ru/company/experience/... · •В Яндекс.Новини потрапив передрук

1. Сюжет. Основні завдання

Представлення різних точок зору на одну подію

Відображення основних актуальних фактів сюжету

Відображення розвитку подій

Надання аналітичних матеріалів про подію

15

Page 17: Як працюють Яндекс.Новиниcache-ash03.cdn.yandex.net/download.yandex.ru/company/experience/... · •В Яндекс.Новини потрапив передрук

Створення пошукового запиту з ключових слів

документа, побудова матриці близькості документів

Анотування сюжету: вибір заголовка та фрагментів

повідомлень, які містять основні факти сюжету

Вибір основних заголовків сюжету

Вибір статей та інтерв’ю

Схема створення сюжету

16

Page 18: Як працюють Яндекс.Новиниcache-ash03.cdn.yandex.net/download.yandex.ru/company/experience/... · •В Яндекс.Новини потрапив передрук

Сюжет у Яндекс.Новинах

17

Page 19: Як працюють Яндекс.Новиниcache-ash03.cdn.yandex.net/download.yandex.ru/company/experience/... · •В Яндекс.Новини потрапив передрук

Вибір заголовка сюжету

• Відповідність регіону користувача

• Лексична та фактологічна «ядерність»

• Актуальність фактів

• Інформативність і читаність

Мета: перший за часом заголовок, який найповніше відображує актуальну фактичну сторону сюжету та не містить нехарактерних для сюжету слів і фактів.

18

Page 20: Як працюють Яндекс.Новиниcache-ash03.cdn.yandex.net/download.yandex.ru/company/experience/... · •В Яндекс.Новини потрапив передрук

Створення анотації сюжету

(дайджесту)

З усіх повідомлень сюжету автоматично виділяються найбільш значущі об’єкти, імена

людей, назви організацій, географічні об’єкти та

дати. Разом із ключовими словами сюжету та

новинними запитами вони визначають вибір

текстів для анотації.

Мета:

показати речення з повідомлень, які містять

основні факти події

19

Page 21: Як працюють Яндекс.Новиниcache-ash03.cdn.yandex.net/download.yandex.ru/company/experience/... · •В Яндекс.Новини потрапив передрук

Анотація сюжету. Інформативність

20

Page 22: Як працюють Яндекс.Новиниcache-ash03.cdn.yandex.net/download.yandex.ru/company/experience/... · •В Яндекс.Новини потрапив передрук

Заголовок сюжету.

Інформативність

21

Page 23: Як працюють Яндекс.Новиниcache-ash03.cdn.yandex.net/download.yandex.ru/company/experience/... · •В Яндекс.Новини потрапив передрук

Вибір основних заголовків

сюжету

Цитування

джерела

в сюжеті

Дата

публікуванняВага джерела

Мета:

Мають бути представлені: першоджерело(а),

найцитованіші джерела та заголовки, що відображують

актуальний стан сюжету

22

Page 24: Як працюють Яндекс.Новиниcache-ash03.cdn.yandex.net/download.yandex.ru/company/experience/... · •В Яндекс.Новини потрапив передрук

Вибір заголовків для першої

сторінки. Цитованість у сюжеті

23

Page 25: Як працюють Яндекс.Новиниcache-ash03.cdn.yandex.net/download.yandex.ru/company/experience/... · •В Яндекс.Новини потрапив передрук

Визначення рубрики та географії

сюжету

• Тематична рубрика

–Спеціалізація видань

–Рубрикація від джерела

–Лексичні запити

• Географія

–Виділення позначень географічних об'єктів із повідомлень сюжету

–Автоматичне визначення релевантних для сюжету географічних об'єктів

–Карта населеного пункту, адреса

Мета: отримати всі новини рубрики та регіону

24

Page 26: Як працюють Яндекс.Новиниcache-ash03.cdn.yandex.net/download.yandex.ru/company/experience/... · •В Яндекс.Новини потрапив передрук

2. Вибір головних новинних сюжетів

Мета:

відібрати найбільш висвітлювані у ЗМІ,

загальнозначущі, актуальні події, що

викликають інтерес користувачів.

25

Page 27: Як працюють Яндекс.Новиниcache-ash03.cdn.yandex.net/download.yandex.ru/company/experience/... · •В Яндекс.Новини потрапив передрук

Визначення ваги сюжету

• Час створення

• Вага джерела

• Відповідність

тематики сюжету

спеціалізації

агентства

Вага окремого

повідомлення

• Щільність потоку

повідомлень

• Час життя в топі

Динаміка

сюжету

• Місце новини на

сайтах партнерів

Медійність і

неспеціалізова

ність

26

Page 28: Як працюють Яндекс.Новиниcache-ash03.cdn.yandex.net/download.yandex.ru/company/experience/... · •В Яндекс.Новини потрапив передрук

Медійність – «колективний топ»

27

Page 29: Як працюють Яндекс.Новиниcache-ash03.cdn.yandex.net/download.yandex.ru/company/experience/... · •В Яндекс.Новини потрапив передрук

Вага джерела

Цитованість враховує, як часто

посилаються на джерело інші новинні

ресурси

Оперативність враховує, як часто

джерело швидко реагує на події

Вага джерел перераховується щотижня.

28

Page 30: Як працюють Яндекс.Новиниcache-ash03.cdn.yandex.net/download.yandex.ru/company/experience/... · •В Яндекс.Новини потрапив передрук

Топ-10 найцитованіших агентств

(в алфавітному порядку)

«Ведомости»

Газета.ру

«Интерфакс»

«ИТАР-ТАСС»

«Комсомольская правда»

Lenta.ru

РБК

РИА «Новости»

Спорт-Экспресс

Эхо Москвы

За даними звіту, який щотижня оновлюється та формується

роботом Яндекс.Новин

29

Page 31: Як працюють Яндекс.Новиниcache-ash03.cdn.yandex.net/download.yandex.ru/company/experience/... · •В Яндекс.Новини потрапив передрук

Топ-10 найцитованіших агентств (ua)

(в алфавітному порядку)

BBC Ukrainian

Інтерфакс-Україна

КоммерсантЪ (Украина)

Кореспондент.Net

ЛIГАБiзнесIнформ

Радiо Свобода

RBC.ua

Сегодня

Українська правда

УНІАН

Усі посилання на українські джерела + посилання українських джерел у сюжетах про Україну

30

Page 32: Як працюють Яндекс.Новиниcache-ash03.cdn.yandex.net/download.yandex.ru/company/experience/... · •В Яндекс.Новини потрапив передрук

Український випуск

Показується за замовчуванням користувачам з України

Окремий розрахунок ваги джерела для українського випуску

Ранжування та анотування сюжетів: засновуються на українських вагах джерел

Вибір заголовків сюжетів: пріоритет ― українським джерелам

Мета: подання новинної картини дня за версією ЗМІ України

31

Page 33: Як працюють Яндекс.Новиниcache-ash03.cdn.yandex.net/download.yandex.ru/company/experience/... · •В Яндекс.Новини потрапив передрук

3. Головна сторінка Яндекс.Новин

Мета:

дати більш розгорнуту та структуровану

відповідь на питання «що відбувається».

Головне в різних зрізах (різні рубрики, жанри,

ньюзмейкери, …)

32

Page 34: Як працюють Яндекс.Новиниcache-ash03.cdn.yandex.net/download.yandex.ru/company/experience/... · •В Яндекс.Новини потрапив передрук

Яндекс.Новини: головні події

33

Page 35: Як працюють Яндекс.Новиниcache-ash03.cdn.yandex.net/download.yandex.ru/company/experience/... · •В Яндекс.Новини потрапив передрук

4. Пошук у Яндекс.Новинах

• Видача з групуванням за сюжетами

• Ранжування за релевантністю

• Можливості розширеного пошуку

• Фільтри за жанрами

• Пошук за

- прес-портретами

- архівними сюжетами

- БД ЗМІ

34

Page 36: Як працюють Яндекс.Новиниcache-ash03.cdn.yandex.net/download.yandex.ru/company/experience/... · •В Яндекс.Новини потрапив передрук

5. Новини в пошуку на Яндексі

логіка спрацьовування, ранжування та

заголовки з українського випуску

35

Page 37: Як працюють Яндекс.Новиниcache-ash03.cdn.yandex.net/download.yandex.ru/company/experience/... · •В Яндекс.Новини потрапив передрук

Україномовні новини на Яндексі

Головний принцип:

одна картина дня,

одне ранжування для

різномовних

повідомлень, але різні

точки зору

Важливість сюжету у

випуску визначається

не мовою

повідомлення, а

значущістю події

36

Page 38: Як працюють Яндекс.Новиниcache-ash03.cdn.yandex.net/download.yandex.ru/company/experience/... · •В Яндекс.Новини потрапив передрук

Як формуються сюжети

українською мовою

•Автоматичне визначення мови документа з

урахуванням партнерських даних

•Кластеризація в сюжети документів

українською мовою

•Ототожнення російсько- та україномовних

сюжетів за допомогою автоматично

отриманого російсько-українського словника

37

Page 39: Як працюють Яндекс.Новиниcache-ash03.cdn.yandex.net/download.yandex.ru/company/experience/... · •В Яндекс.Новини потрапив передрук

Подання сюжету українською

мовою

• За замовчуванням мова новин відповідає мові

інтерфейсу

• Двомовний режим: заголовок та анотація

переважною мовою сюжету, основні заголовки – за

вагою без урахування мови

• Можливість вибору мови в сюжеті – вибір

запам'ятовується для користувачів

• Мовний режим поширюється і на рубрики

• Ранжування сюжетів у рубриках і на головній

сторінці від мови не залежить

38

Page 40: Як працюють Яндекс.Новиниcache-ash03.cdn.yandex.net/download.yandex.ru/company/experience/... · •В Яндекс.Новини потрапив передрук

Мову можна переключити

У сюжеті У рубриці

39

Page 41: Як працюють Яндекс.Новиниcache-ash03.cdn.yandex.net/download.yandex.ru/company/experience/... · •В Яндекс.Новини потрапив передрук

Україномовні новини – цифри

•Пошукових запитів українською мовою –

4 тис. на добу

•Україномовні версії сюжетів читають 14 тис.

користувачів на добу

• На повідомлення українською мовою

здійснюється 33 тис. переходів на добу

•Україномовний контент – 2 тис. повідомлень

на добу

40

Page 42: Як працюють Яндекс.Новиниcache-ash03.cdn.yandex.net/download.yandex.ru/company/experience/... · •В Яндекс.Новини потрапив передрук

Як правильно жити з нами

• Не оптимізувати контент під

Яндекс.Новини

• Стежити за поданням своїх матеріалів у

агрегаторі

• Намагатися конвертувати трафік у лояльну

аудиторію

41

Page 43: Як працюють Яндекс.Новиниcache-ash03.cdn.yandex.net/download.yandex.ru/company/experience/... · •В Яндекс.Новини потрапив передрук

Що робити з агрегаторським трафіком?

• Монетизувати одразу

–Завісити банерами сторінку з новиною

• Збільшувати читацьку аудиторію

–Для старих користувачів – не розчарувати;

–Для нових – зацікавити: картина дня, новинний контекст, додаткові матеріали

Для відвідувачів з агрегаторів вхідна точка на новинний сайт не головна сторінка, а сторінка з текстом повідомлення

42

Page 44: Як працюють Яндекс.Новиниcache-ash03.cdn.yandex.net/download.yandex.ru/company/experience/... · •В Яндекс.Новини потрапив передрук

Новинні віджети на Яндексі

• Користувацький віджет на головній сторінці

порталу – альтернативна точка входу на

новинний сайт

• Якщо користувач обрав матеріал сайту в

агрегаторі, необхідно запропонувати йому

встановити віджет

43

Page 45: Як працюють Яндекс.Новиниcache-ash03.cdn.yandex.net/download.yandex.ru/company/experience/... · •В Яндекс.Новини потрапив передрук

44

Робот і людина в Яндекс.Новинах

Людина

1. Приймає рішення про співробітництво

2. Видаляє посилання на повідомлення з бази даних Яндекс.Новин у випадках, якщо текст повідомлення змінений або відсутній на сайті джерела

Робот

1. Завантажує та індексує новинні

повідомлення

2. Визначає та вилучає з пошуку в

Яндекс.Новинах дублі

3. Визначає жанр повідомлення

4. Виділяє ключові слова та факти

5. Об'єднує повідомлення в сюжет

6. Визначає рубрику

7. Ранжує сюжети

Page 46: Як працюють Яндекс.Новиниcache-ash03.cdn.yandex.net/download.yandex.ru/company/experience/... · •В Яндекс.Новини потрапив передрук

Дякуємо за увагу! Питання?

Лев Гершензон,

Тетяна Ісаєва,

Наталія Родіонова

[email protected]

45