На этой странице можно скачать этот файл совершенно бесплатно и без регистрации и без отправки смс, а также без различного рода ограничений.
Скачивайте и учитесь, надеемся, наш сайт помог вам "погрызть гранит науки"
Manning Ch. D., Raghavan P., Schutze H. Introduction to Information Retrieval - Введение в информационный поиск
Введение в информационный поиск — это первый учебник, в котором наряду с классическим поиском рассматриваются веб-поиск, а также классификация и кластеризация текстов. Учебник написан с точки зрения информатики и содержит современное изложение всех аспектов проектирования и реализации систем сбора, индексирования и поиска документов, методов оценки таких систем, а также введение в методы машинного обучения на базе коллекций текстов. Несмотря на то что учебник задуман как вводный курс по информационному поиску, он будет интересен исследователям и профессионалам.
Об авторах Кристофер Д. Маннинг (Christofer D. Manning) — профессор компьютерных наук в Станфордском университете (Stanford University). Прабхакар Рагхаван (Prabhakar Raghavan) — директор департамента Yahoo! Research и профессор-консультант по компьютерным наукам Станфордского университета. Хайнрих Шютце (Hinrich Schutze) — заведующий кафедрой теоретической вычислительной лингвистики Института обработки текстов на естественных языках (Университет Штутгарта).
Название: Introduction to Information Retrieval Автор: Christopher D. Manning,Prabhakar Raghavan, Hinrich Schutze Издательство: Cambridge University Press Дата публикации: 2008 Язык: English Количество страниц: 504
Class-tested and coherent, this groundbreaking new textbook teaches web-era information retrieval, including web search and the related areas of text classification and text clustering from basic concepts. Written from a computer science perspective by three leading experts in the field, it gives an up-to-date treatment of all aspects of the design and implementation of systems for gathering, indexing, and searching documents; methods for evaluating systems; and an introduction to the use of machine learning methods on text collections. All the important ideas are explained using examples and figures, making it perfect for introductory courses in information retrieval for advanced undergraduates and graduate students in computer science. Based on feedback from extensive classroom experience, the book has been carefully structured in order to make teaching more natural and effective. Although originally designed as the primary text for a graduate or advanced undergraduate course in information retrieval, the book will also create a buzz for researchers and professionals alike.
Introduction to Information Retrieval: Table of Contents
Я - счастливая обладательница этой книги на русском, издания 2011 года в твердом варианте!
Предисловие авторов книги к русскому изданию Мы рады предоставленной возможности написать краткое предисловие к русскому изданию книги Introduction to Information Retrieval. Поскольку оригинальное издание вышло в 2008 году, важность поиска по текстовым и другим неструктурированным информационным источникам к текущему моменту еще больше возросла. Этот поиск важен и как техническая задача, и как главная часть социального и делового взаимодействия людей в современном информационном мире. Прошедший период представляет собой захватывающий период широкого распространения блогов, микроблогов и социальных сетей, а также все более широкого применения инструментов, использующих методы машинного обучения и более глубокую интерпретацию текстов.
В частности, в России это было восхитительное и, вероятно, поворотное время появления успешных компаний, занимающихся веб-поиском, оптическим распознаванием символов и автоматической обработкой текста. Кроме того, за прошедшее время активизировалась организационная и академическая деятельность. Мы хотели бы отметить, в частности, семинар РОМИП, упомянутый в главе 8, который организовал форум по оценке методов информационного поиска в русскоязычных источниках (http://romip.ru/), аналогичный конференциям TREC, а также недавно организованную Российскую летнюю школу по информационному поиску. Мы надеемся, что публикация этой книги будет способствовать дальнейшему развитию методов информационного и веб-поиска в русскоязычном мире.
Предисловие редакторов перевода Информационный поиск, родившись на стыке библиотечного дела и информатики в середине XX века, некоторое время оставался скромной научной и прикладной обла- стью, в которой работало небольшое количество ученых. Бурный рост интернета в конце прошлого — начале нынешнего века стал мощнейшим стимулом развития дисциплины. Современный информационный поиск — это миллионы пользователей, огромные объе- мы данных, мощные вычислительные системы, изощренные алгоритмы. Для решения изначальной задачи — поиска информации, соответствующей потребности пользовате- ля, — привлекаются методы машинного обучения, анализа мультимедийной информа- ции, компьютерная лингвистика, геоинформационные сервисы, исследуется психология пользователей и их социальные связи, удобство интерфейсов и т. д. Создание учебника для такой динамичной и разносторонней дисциплины становится очень сложной задачей. Кристофер Маннинг, Прабхакар Рагхаван и Хайнрих Шютце с этой задачей прекрасно справились. Книга представляет собой сбалансированное, после- довательное и основательное введение в предметную область. До книги Введение в ин- формационный поиск, оригинальное издание которой вышло в 2008 году, основными учебниками по информационному поиску были книги 1999 года: Witten et al. , Managing Gigabytes и Baeza-Yates и Ribeiro-Neto, Modern Information Retrieval (см библиографию). С русскоязычной учебной и профессиональной литературой по информационному поис- ку дело обстояло намного хуже. За исключением отдельных вузовских учебных пособий и переводных изданий узкоприкладного характера, основательных книг по информаци- онному поиску на русском языке не выходило с начала 80-х годов прошлого века. Благодаря интернет-магазинам не составляет большого труда стать обладателем оригинального английского издания, к тому же электронная версия книги свободно дос- тупна по адресу http://www.informationretrieval.org/. Несмотря на это, мы считаем, что издание книги на русском языке — важное и полезное дело. Русская версия призвана упросить знакомство с информационным поиском всем заинтересованным — студентам, аспирантам, исследователям и инженерам-практикам. Профессионалам, рабо- тающим в этой области, книга поможет структурировать их знания и послужит анноти- рованным библиографическим указателем. Еще одна важная задача книги — зафиксиро- вать (а иногда и ввести в оборот) русскую терминологию по информационному поиску. Отсутствие профессиональной литературы по информационному поиску в течение дол- гого времени обусловило сложности, с которыми мы столкнулись в процессе перевода. При переводе терминологии мы старались по возможности использовать устоявшие- ся математические термины, термины, принятые в отечественной информатике (computer science), и те, что стали общепринятыми в практике разработки поисковой системы Ян- декс, а также в рамках Российского семинара по оценке методов информационного по- иска (РОМИП, http://romip.ru). При переводе мы искали не просто понятные, но и по возможности однозначные и непротиворечивые варианты терминов. Поэтому, напри- мер, в книге везде, где только можно, dictionary (структура данных) переводится как сло- варь, а vocabulary — как лексикон, proximity — близость, а similarity — сходство. Также мы старались использовать устоявшуюся терминологию из других наук, например из биологии, в тех случаях, когда она существует (например, capture-recapture — метод по- вторного захвата). Многие члены сообщества ru_ir в Живом Журнале откликнулись на наш призыв поучаствовать в коллективном переводе предметного указателя книги на сайте translated.by, за что мы им очень благодарны. Мы не стали переводить примеры на русский язык, для этого их пришлось бы слиш- ком сильно переработать. Мы надеемся, что читатель сможет воспользоваться поясне- ниями в тексте, да и точного понимания текста примеров для понимания работы алго- ритмов и методов, как правило, не требуется. Наконец, мы взяли на себя смелость снабдить текст комментариями не только для указания эквивалентных русских источников, если они имеются, и комментариев по вы- бору терминологии, но и в случаях, когда наш опыт разработчиков веб-поиска и иссле- дователей позволял дополнить оригинальный текст (в некоторых случаях это происходи- ло из-за специфики русскоязычного поиска). Мы хотим поблагодарить тех, кто принял участие в переводе терминологии и при- слал свои предложения и замечания по тексту: Андрей Белов, Леонид Бойцов, Констан- тин Воронцов, Максим Захаров, Юрий Зеленков, Евгений Кирпичев, Константин Коло- меец, Наташа Лауфер, Лидия Пивоварова, Денис Расковалов, Григорий Сапунов, Алек- сандр Сигачёв, Павел Уваров, Евгений Харитонов. Мы рады отметить, что интерес к информационному поиску в России растет. В каче- стве точек кристаллизации такого интереса можно назвать семинар РОМИП, серию летних школ RuSSIR (http://romip.ru/russir2010/), Школу анализа данных Яндекса (http://shad.yandex.ru/), сообщество Информационный поиск (http: // community.livejournal.com/ru_ir/). Вопросы информационного поиска обсу- ждаются на конференциях Электронные библиотеки (http://rcdl.ru/) и Диалог (http://www.dialog-21.ru/). Надеемся, что эта книга поможет развитию инфор- мационного поиска — научной и прикладной дисциплины — в России и ближнем зару- бежье. Мы благодарим ООО Яндекс за поддержку русского издания книги. Павел Браславский Дмитрий Клюшин Илья Сегалович
Предисловие Еще в 1990-х годах результаты социологических исследований свидетельствовали о том, что большинство людей предпочитают получать информацию от других людей, а не с помощью информационно-поисковых (Information Retrieval — IR) систем. Например, в то время для бронирования билетов и гостиниц люди чаще обращались к сотрудникам туристических агентств. Однако за последние десять лет благодаря постоянному совер- шенствованию методов информационного поиска поисковые системы в вебе поднялись на новый качественный уровень, позволяющий лучше удовлетворять потребности все большего количества людей, а веб-поиск стал стандартным и часто предпочтительным механизмом поиска информации. Например, в 2004 году опрос Pew Internet Survey (Fallows, 2004) показал, что 92% пользователей сети Интернет считают ее удобной для получения повседневной информации. К удивлению многих, информационный поиск из преимущественно академической дисциплины стал базисом для средств доступа к ин- формации, на который полагается большинство людей. В книге изложены научные осно- вы этой дисциплины на уровне, доступном как студентам старших курсов университетов, так и способным студентам младших курсов. Информационный поиск возник раньше веба. Его эволюция стимулировалась раз- нообразными проблемами, связанными с обеспечением поиска и доступа к информа- ционным источникам. Сначала информационный поиск касался научных публикаций и библиотечных каталогов, однако вскоре он распространился и на другие сферы, в ко- торых важна роль информации, — на журналистику, право и медицину. Многие иссле- дования в области информационного поиска проводились именно в этом контексте, и до сих пор большая доля практических приложений этой дисциплины связана с обес- печением доступа к неструктурированной информации, хранящейся в многочисленных корпоративных и правительственных базах данных. Именно этим методам посвящена большая часть книги. Тем не менее в последние годы основным двигателем прогресса является веб, от- крывший возможность публиковать информацию десяткам миллионов пользователей. Эта лавина публикаций осталась бы недоступной, если бы информацию было невозмож- но найти, сопроводить аннотацией и проанализировать так, чтобы каждый пользователь мог быстро найти необходимые ему релевантные и исчерпывающие сведения. В конце 1990-х годов многие люди поняли, что дальнейшая индексация всего веба вскоре станет невозможной из-за его экспоненциального роста. Однако значительные научные иннова- ции и превосходные инженерные решения, быстро снижающаяся стоимость компьютерно- го аппаратного обеспечения и появление коммерческой заинтересованности в веб-поиске в совокупности способствовали возникновению крупных поисковых систем, способных с высоким качеством и за доли секунды выполнить сотни миллионов запросов в день по базе, состоящей из миллиардов веб-страниц.
Структура книги и учебного курса Книга является результатом объединения нескольких учебных курсов, прочитан- ных в Стэнфордском университете (Stanford University) и Штутгартском университете (University of Stuttgart) в разных вариантах: на протяжении одной четверти, одного семе- стра и двух четвертей. Эти курсы предназначались для старшекурсников, изучавших компьютерные науки, но оказались полезными и для студентов младших курсов, а также для студентов, осваивавших юриспруденцию, медицинскую информатику, статистику, лингвистику и разнообразные технические дисциплины. Книга организована так, чтобы осветить то, что мы считаем важным для студентов, изучающих информационный поиск на протяжении одного семестра. Кроме того, каждая глава содержит материал одной лекции продолжительностью 75–90 минут. Главы 1–8 посвящены основам информационного поиска и, в частности, сущности поисковых систем; мы считаем, что этот материал является ядром любого курса по ин- формационному поиску. В главе 1 введены инвертированные индексы (inverted indexes) и показано, как с их помощью можно обработать простые булевы запросы (Boolean queries). В главе 2 детально описываются способы предварительной обработки докумен- тов перед индексированием и методы усовершенствования индексов для расширения функциональных возможностей и повышения скорости поиска. В главе 3 рассматриваются поисковые структуры для словарей и методы обработки запросов, содержащих орфографи- ческие ошибки и другие неточности. В главе 4 описывается несколько алгоритмов по- строения инвертированного индекса по коллекции текстов с особым акцентом на масшта- бируемые и распределенные алгоритмы, допускающие применение к очень большим кол- лекциям. В главе 5 излагаются методы сжатия словарей и инвертированных индексов. Эти методы очень важны для обеспечения быстрой (за доли секунды) обработки пользователь- ских запросов в больших поисковых системах. Индексы и запросы, изучаемые в главах 1–5, касаются лишь булева поиска (Boolean retrieval), при котором документ либо соответствует запросу, либо нет. Желание измерить степень соответствия документа запросу, или релевантность (score) документа, стимулировало разработку методов взвешивания терми- нов (term weighting) и ранжирования (computation of scores), описанных в главах 6 и 7, и да- лее, к концепции списка документов, упорядоченных по степени соответствия запросу. Глава 8 посвящена оценке информационно-поисковых систем на основании экспертных оценок релевантности найденных документов, что позволяет сравнивать относительное ка- чество систем на стандартных коллекциях документов и запросов. Главы 9–21 основаны на материале, изложенном в главах 1–8, и охватывают широкий спектр более сложных тем. В главе 9 обсуждаются методы повышения эффективности поиска с помощью таких приемов, как обратная связь по релевантности (relevance feedback) и расширение запросов (query expansion), предназначенных для увеличения ве- роятности нахождения релевантных документов. В главе 10 рассматриваются методы информационного поиска по документам, структурированным с помощью языков раз- метки, таких как XML и HTML. Мы сводим поиск по структурированным документам к применению методов ранжирования на основе векторной модели (vector space scoring), изложенных в главе 6. В главах 11 и 12 для ранжирования документа по отношению к запросу используется теория вероятностей. Глава 11 посвящена традиционному вероят- ностному информационному поиску, позволяющему вычислить вероятность релевантно- сти документа при заданном наборе слов запроса. Впоследствии эту вероятность можно использовать как показатель релевантности при ранжировании. В главе 12 иллюстрируется альтернатива, в рамках которой для каждого документа в коллекции создается язы- ковая модель, позволяющая оценить вероятность того, что она порождает заданный за- прос. Эта вероятность является еще одним количественным показателем, с помощью ко- торого осуществляется ранжирование документов. В главах 13–18 излагаются методы машинного обучения и численные методы ин- формационного поиска. Главы 13–15 посвящены проблеме классификации документов по известным категориям на основе набора документов и классов, которым они принад- лежат. В главе 13 представлены доказательства того, что классификация на основе ста- тистики представляет собой одну из ключевых технологий, необходимых для успешного функционирования поисковой системы. В ней излагается наивный байесовский подход (Naive Bayes), представляющий собой концептуально простой и эффективный метод классификации текстов, а также основы стандартной методологии оценки текстовых классификаторов. В главе 14 описано применение модели векторного пространства, вве- денной в главе 6, а также изложены два метода классификации: метод Роккио (Rocchio method) и метод k ближайших соседей (k nearest neighbor — kNN), применяемые к векто- рам документов. В ней также рассматривается компромисс между смещением и разбро- сом (дисперсией), представляющий собой важную характеристику задач обучения и по- зволяющий установить критерии для выбора подходящего метода классификации тек- стов. В главе 15 вводится метод опорных векторов (support vector machine), который многие исследователи в настоящее время считают наиболее эффективным методом клас- сификации текстов. Кроме того, в данной главе исследуются связи между задачей клас- сификации и, на первый взгляд, совершенно посторонними темами, таким как вывод функций ранжирования по набору обучающих примеров. Главы 16–18 посвящены идентификации кластеров близких документов в коллекции. В главе 16 сначала приводится обзор нескольких важных приложений кластеризации в области информационного поиска, а затем рассматриваются два алгоритма плоской кла- стеризации (flat clastering): эффективный и широко используемый для кластеризации документов алгоритм K средних (K-means algorithm) и EM-алгоритм (expectationmaximization algorithm), который с вычислительной точки зрения является более затрат- ным, но более гибким. В главе 17 обосновывается необходимость иерархически структу- рированной кластеризации (вместо плоской) для многих приложений в области инфор- мационного поиска, а также рассматриваются алгоритмы кластеризации, порождающие иерархии кластеров. В этой главе также рассматривается сложная проблема автоматиче- ской разметки кластеров. Глава 18 посвящена методам линейной алгебры, представляю- щим собой расширение методов кластеризации и открывающим захватывающие пер- спективы для применения алгебраических методов, разрабатываемых в рамках латентно- го семантического индексирования (latent semantic indexing). Главы 19–21 посвящены проблемам поиска в вебе. В главе 19 приводятся краткий об- зор основных задач, связанных с поиском в вебе, а также набор широко распространен- ных методов информационного поиска в вебе. В главе 20 описываются архитектура и требования, предъявляемые к веб-роботам (web-crawlers). В главе 21 рассматривается применение анализа ссылок для веб-поиска, где анализ проводится с использованием ме- тодов линейной алгебры и теории вероятностей. Эта книга является исчерпывающим источником знаний по всем темам, связанным с информационным поиском. За ее пределами осталось множество тем, выходящих за рамки вводного курса по информационному поиску. Тем не менее все, кого интересуют эти темы, могут обратиться к перечисленным ниже учебникам.
