Механизмы поиска информации в интернет: Механизмы поисковых систем — Поисковые системы в интернете

Механизмы поисковых систем — Поисковые системы в интернете

1. Поисковые системы — Курс «Мировые информационные ресурсы»

3. Технология и практика взаимодействия пользователей с информационными ресурсами‎ > ‎1. Лекции‎ > ‎

Поисковые системы   Основная задача Internet — предоставление необходимой информации. Чтобы найти нужную информацию необходимо знать адрес Web-страницы, на которой эта информация находится. Лучше всего искать в Сети интересующую информацию с помощью поисковых систем. Поисковая система представляет собой специализированный Web-узел. Поисковые системы классифицируют по методам поиска. Поисковые каталоги предназначены для поиска по темам. Обычно они построены по иерархическому принципу, т.е. каждый шаг поиска — это выбор подраздела с более конкретной тематикой искомой информации. На нижнем уровне поиска пользователь получает относительно небольшой список ссылок на искомую информацию. Поисковый индекс обеспечивает поиск по заданным ключевым словам. Обычно ключевые слова вводятся при заполнении специальной формы поиска, после чего нажимается кнопка «Поиск». В результате поиска формируется набор гиперссылок на Web-страницы, содержащий указанные термины. Обычно поисковые индексы выдают огромное количество искомых страниц, В этом списке представлены ссылки на различные Web-страницы, причем ссылки располагаются по степени убывания встреченных на данных страницах слов, совпадающих с ключевыми словами. При просмотре списка необходимо выбрать те страницы, которые нужно просмотреть. Некоторые системы составляют список ссылок по степени свежести страниц, другие же — по степени вероятности того, что данные страницы окажутся искомыми. Вычисление вероятности основывается на данных о том, как скоро на странице встречается искомое слово. Первыми в таком списке идут ссылки на те страницы, у которых ключевые слова встречаются уже в названии. Поисковые каталоги предоставляют доступ к меньшему количеству страниц, чем поисковые индексы, но они точнее указывают на основные ресурсы Сети. Поэтому при первичном поиске информации целесообразно использовать поисковые каталоги. А квалифицированным пользователям Internet более полезны поисковые индексы. Они позволяют разыскать малоизвестные и узкоспециализированные ресурсы. Многие современные поисковые системы сочетают в себе оба указанных метода. Программа Internet Explorer имеет специальные средства организации поиска без явного обращения к поисковым системам. Можно получить доступ к одной из известных поисковых систем, просто щелкнув на кнопке «Поиск», слева появится окно поиска. Далее можно набрать ключевые слова для поиска и выбрать поисковую систему. Результаты поиска будут отражены в правой части окна обозревателя. Если выбрать нужную ссылку, то в правом окне появится содержимое выбранной страницы. Чтобы скрыть окно поиска, необходимо щелкнуть на кнопке «Поиск» еще раз. При работе с Internet Explorer можно проводить поиск прямо в поле «Адрес». Для этого в адресную строку вводиться слово или фраза для поиска. Под адресной строкой откроется окно со словом «Поиск» и искомой фразой. Internet Explorer начнет поиск с использованием заранее определенной системы поиска; при этом кнопка «Поиск» на панели инструментов нажмется сама. Можно осуществить поиск, нажав кнопку «Пуск» и выбрав опцию меню «Найти». Окно Internet Explorer откроется само с уже нажатой кнопкой «Поиск». Если удалось найти то, что искали, но все же не совсем то, в этом случае пригодится механизм связанных ссылок. Для любой Web-страницы можно просмотреть список ссыпок, имеющих к ней отношение, возможно, среди них окажется как раз то, что нужно. Чтобы просмотреть связанные ссылки, нужно сделать следующее. Необходимо выбрать в меню «Сервис» команду «Показать связанные ссылки». После этого на панели инструментов нажать кнопку «Поиск», и в левой части экрана появится окно, содержащее список ссылок, связанных с данной страницей. Нужно щелкнуть на одной из ссылок и просмотреть в правом окне соответствующую Web-страницу. Чтобы скрыть окно поиска, необходимо щелкнуть еще раз на кнопке «Поиск».   Механизмы поиска   Поисковые системы обычно состоят из трех компонентов:   ·         агент (паук или кроулер), который перемещается по Сети и собирает информацию; ·         база данных, которая содержит всю информацию, собираемую пауками; ·         поисковый механизм, который люди используют как интерфейс для взаимодействия с базой данных.   Средства поиска и структурирования, иногда называемые поисковыми механизмами, используются для того, чтобы помочь людям найти информацию, в которой они нуждаются. Средства поиска типа агентов, пауков, кроулеров и роботов используются для сбора информации о документах, находящихся в сети Internet. Это специальные программы, которые занимаются поиском страниц в сети, извлекают гипертекстовые ссылки на этих страницах и автоматически индексируют информацию, которую они находят для построения базы данных. Каждый поисковый механизм имеет собственный набор правил, определяющих, как собирать документы. Некоторые следуют за каждой ссылкой на каждой найденной странице и затем, в свою очередь, исследуют каждую ссылку на каждой из новых страниц, и так далее. Некоторые игнорируют ссылки, которые ведут к графическим и звуковым файлам, файлам мультипликации; другие игнорируют ссылки к ресурсам типа баз данных WAIS; другие проинструктированы, что нужно просматривать, прежде всего, наиболее популярные страницы. Агенты — самые «интеллектуальные» из поисковых средств. Они могут делать больше, чем просто искать: они могут выполнять даже транзакции от Вашего имени. Уже сейчас они могут искать сайты специфической тематики и возвращать списки сайтов, отсортированных по их посещаемости. Агенты могут обрабатывать содержание документов, находить и индексировать другие виды ресурсов, не только страницы. Они могут также быть запрограммированы для извлечения информации из уже существующих баз данных. Независимо от информации, которую агенты индексируют, они передают ее обратно базе данных поискового механизма. Агенты извлекают и индексируют различные виды информации. Некоторые, например, индексируют каждое отдельное слово во встречающемся документе, в то время как другие индексируют только наиболее важных 100 слов и в каждом, индексируют размер документа и число слов в нем, название, заголовки и подзаголовки и так далее. Вид построенного индекса определяет, какой поиск может быть сделан поисковым механизмом и как полученная информация будет интерпретирована. Агенты могут также перемещаться по Internet и находить информацию, после чего помещать ее в базу данных поискового механизма. Администраторы поисковых систем могут определить, какие сайты или типы сайтов агенты должны посетить и проиндексировать. Проиндексированная информация отсылается базе данных поискового механизма так же, как было описано выше.   Общий поиск информации в Сети осуществляют программы, известные как пауки. Пауки сообщают о содержании найденного документа, индексируют его и извлекают итоговую информацию. Также они просматривают заголовки, некоторые ссылки и посылают проиндексированную информацию базе данных поискового механизма.   Кроулеры просматривают заголовки и возвращают только первую ссылку.   Роботы могут быть запрограммированы так, чтобы переходить по различным ссылкам различной глубины вложенности, выполнять индексацию и даже проверять ссылки в документе. Из-за их природы они могут застревать в циклах, поэтому, проходя по ссылкам, им нужны значительные ресурсы сети. Однако имеются методы, предназначенные для того, чтобы запретить роботам поиск по сайтам, владельцы которых не желают, чтобы они были проиндексированы.   Люди могут помещать информацию прямо в индекс, заполняя особую форму для того раздела, в который они хотели бы поместить свою информацию. Эти данные передаются базе данных. Когда кто-либо хочет найти информацию, доступную в Internet, он посещает страницу поисковой системы и заполняет форму, детализирующую информацию, которая ему необходима. Здесь могут использоваться ключевые слова, даты и другие критерии. Критерии в форме поиска должны соответствовать критериям, используемым агентами при индексации информации, которую они нашли при перемещении по сети.   База данных отыскивает предмет запроса, основанный на информации, указанной в заполненной форме, и выводит соответствующие документы, подготовленные базой данных. Чтобы определить порядок, в котором список документов будет показан, база данных применяет алгоритм ранжирования. В идеальном случае, документы, наиболее релевантные пользовательскому запросу будут помещены первыми в списке. Различные поисковые системы используют различные алгоритмы ранжирования, однако, основные принципы определения релевантности следующие:   1.       Количество слов запроса в текстовом содержимом документа. 2.      Тэги, в которых эти слова располагаются. 3.      Местоположение искомых слов в документе. 4.     Удельный вес слов, относительно которых определяется релевантность, в общем количестве слов документа.   База данных выводит ранжированный подобным образом список документов с HTML и возвращает его человеку, сделавшему запрос. Различные поисковые механизмы также выбирают различные способы показа полученного списка — некоторые показывают только ссылки; другие выводят ссылки с первыми несколькими предложениями, содержащимися в документе или заголовок документа вместе со ссылкой. Когда Вы щелкаете на ссылке к одному из документов, который вас интересует, этот документ запрашивается у того сервера, на котором он находится. Критерии отбора html-документов поисковыми системами   Поисковые системы отбирают результаты поиска на основании следующих критериев: Title (заголовок): Присутствует ли ключевое слово в заголовке? Domain/URL (Домен/адрес): Присутствует ли ключевое слово в имени домена или в адресе страницы? Style (стиль): Жирный (STRONG или B), Курсив (EM или I), Заголовки HEAD: если место на странице, где ключевое слово использовано в жирных, курсивных или текстовых заголовках? Density (плотность): Как часто ключевое слово употреблено на странице? Количество ключевых слов относительно текста страницы называется плотностью ключевого слова. MetaInformation (мета данные): – мета ключевые слова (meta keywords) и мета описания (meta description). Outbound Links (ссылки наружу): На кого есть ссылки на странице и встречается ли ключевое слово в тесте ссылки? Inbound Links (внешние ссылки): Кто еще в Интернет имеет ссылку на данный сайт? Каков текст ссылки? Это называется «внестраничный» критерий, потому что автор страницы не всегда может им управлять. Insite Links (ссылки внутри страницы): На какие еще страницы данного сайта содержит ссылки эта страница?   Т.о., поисковой системе необходимо делать множество уточняющих запросов, используя страницу целиком.   Результаты поиска оцениваются на основе семантических оценок качества, таких как: информационный шум, полнота выдачи документов, точность выдачи, потеря информации.

Эффективный поиск в Интернете | Girton College

Выбор правильной поисковой системы

Для многих из нас поиск в Интернете стал стандартным механизмом поиска информации. Это не значит, что мы обязательно знаем, как это сделать лучше всего! Например, если вы ищете научную информацию, мы должны помнить, что журнальные статьи, книги и другие научные источники могут быть защищены платными стенами и могут не отображаться в результатах поиска (или быть доступными для нас, даже если они отображают вверх). Вместо этого вам нужно спланировать стратегию поиска и выбрать поисковую систему.

К основным поисковым системам относятся:

• Google – поиск изображений, видео, карт, новостей, покупок и т. д. Справляется с орфографическими ошибками и переводит неанглоязычные страницы.
• Bing — собственная поисковая система Microsoft. Движок по умолчанию в Edge.
• Yahoo – использует результаты из Bing с дополнительными функциями Yahoo.
• DuckDuckGo — подчеркивает конфиденциальность. Он не отслеживает и не профилирует пользователей, а это означает, что все, кто выполняет один и тот же поиск, увидят одни и те же результаты.
• Яндекс – одна из самых популярных поисковых систем в Европе.
• Baido — одна из самых популярных поисковых систем в Китае.

Если вам нужно найти рецензируемые или научные источники, обычная поисковая система будет не самым подходящим местом для поиска. Альтернативные варианты включают:

• iDiscover для поиска в фондах Кембриджского университета, включая статьи в журналах и онлайн-ресурсах. Для получения дополнительной информации ознакомьтесь со многими доступными справочными руководствами по iDiscover или ознакомьтесь с нашим собственным руководством по поиску в iDiscover.
• Библиографические базы данных. Большинство академических предметов имеют библиографические базы данных по конкретным предметам, что позволяет вам искать литературу по вашему предмету и создавать собственные списки для чтения. Просмотрите все базы данных по вашему предмету, на которые подписан университет.
• Чтобы получить представление об огромном количестве академических ресурсов, см. этот список в Википедии!
   

Эффективное использование Google

Google — это больше, чем просто окно поиска на главной странице.

• Google Scholar — поиск в научной литературе, такой как статьи и тезисы, но особенно полезен для «серой литературы», т. е. исследований, проводимых организациями за пределами обычных академических и коммерческих издательских маршрутов, таких как отраслевые публикации и правительственные отчеты. Чтобы ограничить поиск ресурсами, доступными для членов Кембриджского университета, перейдите в «Настройки» и «Ссылки на библиотеки» и выполните поиск «Кембриджский университет».
• Google Scholar Metrics предоставляет авторам простой способ оценить заметность и влияние последних статей в научных публикациях путем суммирования недавних цитат. Однако он охватывает только статьи, опубликованные в период с 2014 по 2018 год, которые были проиндексированы Google Scholar до июля 2019 года..
• Чтобы быть в курсе последних событий, вы можете использовать Оповещения Google, чтобы отправлять вам электронные письма при обнаружении новых результатов, таких как веб-страницы, газетные статьи, блоги или научные исследования, которые соответствуют вашему поисковому запросу.
• Вы также можете просмотреть все действия, которые вы выполняли при входе в Google, посетив Мои действия. Это может быть полезно, например, если вы хотите повторно выполнить поиск в Google, который вы выполняли, но также очень страшно видеть, сколько информации хранится о вас. Вы можете удалить активность.

Советы по эффективной стратегии поиска в Интернете

Тщательно спланируйте поиск, и вы, скорее всего, быстрее найдете более релевантные материалы. Если ваш поиск находит слишком много сайтов или в значительной степени нерелевантных сайтов, вам нужно будет пересмотреть свою стратегию поиска. Все основные поисковые системы имеют очень подробные рекомендации по методам поиска, а некоторые из них имеют расширенные средства поиска. Точный способ ввода слов или фраз темы может варьироваться от одной поисковой системы к другой.

Комбинирование слов при поиске (логический поиск)

Ищите опцию расширенного поиска, так как это обеспечивает большую гибкость при комбинировании поисковых слов, например. https://www.google.co.uk/advanced_search. Если вы используете Bing, вы можете использовать символы для объединения слов, чтобы сделать поиск более точным:

• + (И) — используйте для указания слов, которые должны быть включены, например. Американец + Президент
• | (ИЛИ) — используйте, чтобы расширить поиск и найти больше сайтов, например. американский | Президент
• — (НЕ) — используйте с осторожностью, чтобы исключить нежелательные поисковые слова, например. Американец-Президент
• Используйте точную фразу (кавычки) для поиска точной фразы, например. «Американский президент»

Поиск слов с похожими окончаниями

Большинство поисковых систем позволяют ввести первую часть слова, а затем использовать символ, например * или или ? (он варьируется от одной поисковой системы к другой), чтобы заменить последующие буквы. Итак, чтобы найти американца, Америки, американца, вы можете ввести America*

Уточнение поиска

Вы можете сделать поиск более точным, включив в условия поиска:

• Сайт: – используйте для поиска информации на определенном сайте, например. Сайт студенческих стипендий: cam.ac.uk. Вы также можете исключить определенный сайт или домен, например. – сайт: shef.ac.uk
• Связанные: — используйте для поиска сайтов, похожих на те, которые вы уже используете, например, related:pixabay.com
• Тип файла: — используйте для поиска определенного типа документа, например. Барбара Бодишон тип файла: pdf
• Number…Number – поиск в определенном числовом диапазоне, например. женщины-авторы 1800…1900
• Intitle:/intext:/inurl: – поиск слова в заголовке, тексте или URL, например. название:Гиртон

Вы также можете уточнить результаты, например, чтобы исключить более ранние результаты. В Google вы делаете это, выбирая «Инструменты» и используя раскрывающиеся меню.

Поиск изображений

Подавляющее большинство магов в Интернете защищены авторским правом; то, что изображение есть, и вы можете сохранить его на своем устройстве, не означает, что вы можете его использовать. Некоторые рекомендуемые способы поиска изображений, которые вы можете использовать, включают:

• Wikimedia Commons — это онлайн-репозиторий свободно используемых мультимедиа и изображений.
• Google Images позволяет ограничивать результаты поиска по правам использования; перейдите в «Инструменты» и выберите «Права на использование». Вы также можете выполнять обратный поиск изображения (т. е. поиск существующего изображения), щелкнув значок камеры в строке поиска. (Полезно, например, если вы хотите искать поддельные версии ваших собственных учетных записей в социальных сетях, хотя TinEye является специализированной альтернативой.) Bing также позволяет фильтровать результаты поиска изображений по «Лицензии».
• Librestock выполняет поиск на веб-сайтах с бесплатными фотографиями, таких как Pixabay, чтобы найти изображения, которые можно использовать бесплатно, в основном с лицензиями Creative Commons 0.

Поиск в социальных сетях

Большинство платформ социальных сетей имеют свои собственные внутренние функции поиска, но существуют также поисковые системы социальных сетей, такие как:

Социальный поисковик выполняет поиск в нескольких социальных сетях без необходимости входа в них и предоставляет аналитические данные. Вы можете настроить оповещения по электронной почте, чтобы оставаться в курсе. Он также имеет инструмент поиска Google Social Media, который выполняет поиск в социальных сетях через Google. Каждый сайт (например, Twitter и Facebook) представлен в отдельной легко читаемой колонке.

Оценка результатов поиска

Поисковые системы по-разному контролируют качество перечисленных сайтов. Многие поисковые системы «гарантируют» более высокий рейтинг в обмен на оплату, а результаты, помеченные как рекламные, часто появляются вверху.
Вам нужно будет критически взглянуть на сайты, которые вы найдете. Аспекты, на которые следует обратить внимание при оценке сайтов, включают:

• Авторство – кто несет ответственность за сайт? Человек или учреждение или организация?
• Целевая аудитория – академики? Дети? Кто угодно? Неясно?
• Точность – все ссылки работают? Есть ли ошибки?
• Последнее изменение – регулярно ли обновляется сайт? Найдите дату внизу страницы.
• Объективность – насколько объективно автор представил информацию?

В рамках вашей оценки авторства посмотрите, что это за сайт.
Вы можете проверить URL-адрес (унифицированный указатель ресурсов) веб-страницы, чтобы определить, с какого сайта поступает информация:

•  .edu означает, что страницы созданы учебным заведением
• .gov означает, что страница создана государственным ведомством или органом
.
•  .org означает, что страница создана организацией (обычно некоммерческой или благотворительной)
•  .com или .co.xx означает коммерческий сайт.

Достоверность информации не должна оцениваться исключительно на основе конкретного типа сайта, с которого она получена, но знание типа сайта может помочь представить предоставленную информацию в контексте.

Неудачный поиск?

1. Попробуйте другую поисковую систему или две, чтобы убедиться, что ваш поиск исчерпывающий. Не стоит полагаться только на одну поисковую систему. Чтобы обойти это, вы можете использовать мультипоисковик или мета-поисковик, который выполняет поиск по вашему запросу в нескольких поисковых системах. Примеры включают Fefoo и Dogpile.
2. Помните, поисковые системы не индексируют все, что есть. «Невидимая сеть» или «скрытая сеть» может включать сайты, защищенные паролем, в том числе Moodle. Контент также мог просрочен или был удален. Некоторые полезные архивные ресурсы:

• Интернет-веб-архив (Wayback Machine) — полезен для поиска информации, которая ранее появлялась на веб-сайтах, и ссылок, которые больше не работают. Поиск с использованием URL-адреса.
• Правительственный веб-архив Великобритании — для государственных веб-сайтов.
• Веб-архив Великобритании — архив веб-сайтов Великобритании.

NB «Даркнет» — это совсем другое — это общедоступная информация, которая скрывает свой адрес и часто сомнительна с моральной и юридической точки зрения.

Помощь в колледже

Персонал библиотеки может оказать поддержку и помощь. Вы можете записаться к нам на прием или задать вопрос по адресу [email protected].

Или взгляните на экспертный интернет-поиск, 5-е издание, Фила Брэдли (Facet, 2017), который можно найти на столе для принтера в библиотеке (Classmark Sg 102).

Как работает механизм поиска Google?

Предположим, вы проводите онлайн-исследование. Вы открываете окно браузера для поиска «лучших мобильных телефонов». И вы нажимаете «Enter», и, к удивлению, более семидесяти миллионов результатов за полсекунды.

Для всех этих задач Google должен был:

1. принять ваш запрос
2. необходимо проанализировать ваш входной запрос
3. выяснить порядок слов 0
4. всю информацию в базе данных персонализировать свои результаты, принимая во внимание все, что он знает о вас
5. ранжировать результаты
6. отправить результаты обратно в ваш браузер

И все это он сделал, вернув 70 миллионов результатов за 0,57 секунды.

Первое, что делает Google, это то, что он не выполняет поиск в Интернете, когда вы отправляете запрос на лучшие мобильные телефоны. Google ищет свой индекс в Интернете. Это может показаться тривиальным и расплывчатым, но это важное отличие, потому что оно делает поиск бесконечно быстрее.

Давайте рассмотрим пример, чтобы понять это. Скажем, когда вы пытаетесь позвонить какому-то человеку, скажем, Махеш , вы не просматриваете весь свой список контактов, начиная с А. Вы просто переходите к алфавиту М, а затем ищете желаемый результат, который в данном случае Махеш. Точно так же работает движок Google.

Это именно то, что делает Google, за исключением того, что его индекс содержит указатели на всю информацию о мире и бесконечно больше, чем индекс в вашей обычной телефонной книге.

Google признает, что его индекс превышает 150 миллионов гигабайт (150 000 000 000 000 000 000 байт) , что просто означает, что индекс, вероятно, во много раз больше.

Когда вы отправляете запрос «лучшие мобильные телефоны» на главной странице Google, интеллектуальное сетевое оборудование направляет ваш поиск в ближайший к вам центр обработки данных. Если по какой-то причине этот центр обработки данных окажется перегружен или не работает, вы будете перенаправлены в ближайший к вам центр обработки данных и так далее по цепочке.

Когда вы выполняете поиск, вы можете использовать возможности дюжины или даже двух дюжин серверов… и эти серверы могут обрабатывать несколько подобных запросов одновременно… и в центре обработки данных есть сотни серверов… и несколько десятков дата-центров по всему миру. Все вместе, и Google имеет в своем распоряжении серьезные поисковые возможности.

Кроме того, Google использует автоматизированные программы, называемые поисковыми роботами или краулерами, как и большинство поисковых систем, для получения результатов поиска. Google имеет большой индекс ключевых слов, которые помогают определить результаты поиска.