In diesem Beitrag gehen wir auf Folgendes ein:
- Mythos Nr. 1: Web Scraping ist illegal
- Mythos Nr. 2: Scraping ist nur etwas für Entwickler
- Mythos Nr. 3: Scraping ist Hacking
- Mythos Nr. 4: Scraping ist einfach
- Mythos Nr. 5: Einmal erfasste Daten sind sofort einsatzbereit
- Mythos Nr. 6: Data Scraping ist ein vollständig automatisierter Prozess
- Mythos Nr. 7: Die Skalierung von Daten-Scraping-Vorgängen ist einfach
- Mythos Nr. 8: Web Scraping erzeugt große Mengen an verwertbaren Daten
Mythos Nr. 1: Web Scraping ist illegal
Viele haben die falsche Vorstellung, dass Web Scraping illegal ist. Die Wahrheit ist, dass es völlig legal ist, solange man keine passwortgeschützten Informationen oder personenbezogene Daten (PII) sammelt. Ein weiterer Punkt, auf den man achten sollte, sind die Allgemeinen Geschäftsbedingungen (Terms of Service, ToS) der Ziel-Websites, um sicherzustellen, dass die Regeln, Vorschriften und Bestimmungen beim Sammeln von Informationen von einer bestimmten Website eingehalten werden. Unternehmen, die auf anonymisierte Open-Source-Webdaten abzielen und nur mit Datenerfassungsnetzwerken arbeiten, die CCPA- und GDPR-konform sind, bewegen sich im legalen Rahmen
In den Vereinigten Staaten gibt es auf Bundesebene keine Gesetze, die Web-Scraping verbieten, solange die gesammelten Informationen öffentlich sind und der Zielseite beim Scraping kein Schaden zugefügt wird. In der Europäischen Union und im Vereinigten Königreich wird Scraping unter dem Gesichtspunkt des geistigen Eigentums betrachtet, und zwar im Rahmen des Digital Services Act. Darin heißt es, dass „die Reproduktion öffentlich zugänglicher Inhalte“ nicht illegal ist, d. h. solange die gesammelten Daten öffentlich zugänglich sind, sind Sie rechtlich auf der sicheren Seite.
Mythos Nr. 2: Scraping ist nur etwas für Entwickler
Dies ist einer der häufigsten Mythen. Viele Fachleute ohne technischen Hintergrund geben in der Regel schnell auf, wenn es darum geht, ihre Datenerfassung zu kontrollieren, ohne sich überhaupt eingehender damit zu befassen. Es stimmt, dass viele Scraping-Techniken technische Fähigkeiten erfordern, über die vor allem Entwickler verfügen. Aber es stimmt auch, dass es derzeit neue Tools gibt, die ohne Code auskommen. Diese Lösungen helfen dabei, den Scraping-Prozess zu automatisieren, indem sie vorgefertigte Daten-Scraper für jeden Unternehmer bereitstellen. Dazu gehören auch Web-Scraping-Vorlagen für beliebte Webseiten wie Amazon und Booking.
Mythos Nr. 3: Scraping ist Hacking
Das stimmt nicht. Beim Hacking handelt es sich um illegale Aktivitäten, die in der Regel zur Ausbeutung privater Netzwerke oder Computersysteme führen. Der Zweck der Kontrollübernahme besteht in der Durchführung illegaler Aktivitäten wie dem Diebstahl privater Informationen oder der Manipulation von Systemen zum persönlichen Vorteil.
Web Scraping hingegen ist die Methode, auf öffentlich zugängliche Informationen von Ziel-Websites zuzugreifen. Diese Informationen werden in der Regel von Unternehmen genutzt, um in ihrem Bereich besser konkurrieren zu können. Dies führt zu verbesserten Dienstleistungen und faireren Marktpreisen für die Verbraucher.
Mythos Nr. 4: Scraping ist einfach
Viele Menschen glauben fälschlicherweise, dass „Scraping ein Kinderspiel ist“. „Wo liegt das Problem?“, fragen sie, „man muss doch nur auf die Website gehen, auf die man abzielt, und die Zielinformationen abrufen“. Das scheint richtig zu sein, aber in der Praxis ist Scraping ein sehr technisches, manuelles und ressourcenintensives Unterfangen. Unabhängig davon, ob Sie sich für Java , Selenium, PHP oder PhantomJs entscheiden, müssen Sie ein technisches Team beschäftigen, das weiß, wie man Skripte in diesen Sprachen schreibt.
Oftmals haben die Zielseiten komplexe Architekturen und Blockiermechanismen, die sich ständig ändern. Sobald diese Hürden überwunden sind, müssen die Datensätze in der Regel bereinigt, synthetisiert und strukturiert werden, damit Algorithmen sie analysieren können, um wertvolle Erkenntnisse zu gewinnen. Fazit: Scraping ist alles andere als einfach.
Mythos Nr. 5: Man benötigt nur einen Scraper für alle Zielseiten
Das ist in der Regel jedoch nicht der Fall. Bei der Erfassung von Zielinformationen sind viele Aspekte zu berücksichtigen. Zum Beispiel, in welchem Format die Informationen erfasst werden können und in welchem Format Ihre Systeme die Daten aufnehmen können. Nehmen wir an, alle von Ihnen erfassten Daten liegen im JSON-Format vor, aber Ihre Systeme können nur Dateien im CSV-Format verarbeiten. Neben dem Format geht es auch um die Strukturierung, Synthese und Bereinigung der Daten, bevor sie tatsächlich verwendet werden können. Dazu gehört z. B. das Entfernen beschädigter oder doppelter Dateien. Erst wenn die Daten formatiert, bereinigt und strukturiert sind, können sie analysiert und verwendet werden.
Mythos Nr. 6: Data Scraping ist ein vollständig automatisierter Prozess
Viele glauben, dass es Bots gibt, die einfach nur Websites crawlen und Informationen auf Knopfdruck abrufen. Das ist nicht wahr. Die meisten Web-Scraping-Prozesse werden manuell durchgeführt und erfordern technische Teams, die den Prozess überwachen und Probleme beheben. Es gibt jedoch Möglichkeiten, diesen Prozess zu automatisieren, entweder durch den Einsatz eines Web-Scraper-IDE-Tools oder einfach durch den Kauf von vorab gesammelten Datensätzen, die keine Einbindung in die Komplexität des Data-Scraping-Prozesses erfordern.
Mythos Nr. 7: Die Skalierung von Daten-Scraping-Vorgängen ist einfach
Das ist ein absoluter Mythos. Wenn Sie interne Software und Hardware für die Datenerfassung sowie ein technisches Team für die Verwaltung des Betriebs einsetzen. Wenn Sie den Betrieb sinnvoll skalieren wollen, müssen Sie neue Server hinzufügen, neue Teammitglieder einstellen und neue Scraper für die Zielseiten entwickeln. Bedenken Sie, dass allein der Unterhalt eines Servers ein Unternehmen durchschnittlich bis zu 1.500 USD pro Monat kosten kann. Je größer das Unternehmen, desto höher das Vielfache der Kosten.
Wenn Sie sich jedoch auf einen Anbieter von Data-as-a-Service verlassen, kann die Skalierung des Betriebs extrem einfach sein, da Sie sich auf die Infrastruktur und die Teams von Dritten verlassen. Sowie Live-Karten von Tausenden von sich ständig ändernden Web-Domains.
Mythos Nr. 8: Web Scraping erzeugt große Mengen an verwertbaren Daten
Das ist in der Regel jedoch nicht der Fall. Unternehmen, die eine manuelle Datenerfassung durchführen, erhalten sehr oft ungenaue oder unleserliche Daten. Deshalb ist es wichtig, Tools und Systeme einzusetzen, die eine Qualitätsprüfung durchführen und den Datenverkehr über echte Peer-Geräte leiten. Auf diese Weise können die Zielseiten die Anfragenden als echte Nutzer identifizieren und sie „ermutigen“, genaue Datensätze für das betreffende GEO abzurufen. Die Verwendung eines Datenerfassungsnetzes, das eine Qualitätsprüfung durchführt, ermöglicht es Ihnen, eine kleine Datenprobe abzurufen, sie zu validieren und erst dann den gesamten Erfassungsauftrag auszuführen. Das spart sowohl Zeit als auch Ressourcen.
Fazit
Wie Sie sehen können, gibt es viele Missverständnisse über Data Scraping. Jetzt, da Sie die Fakten kennen, können Sie Ihre zukünftigen Datenerfassungsaufträge besser angehen.
