[01 크롤링이란? ] 크롤링(crawling) 혹은 스크레이핑(scraping)은 웹 페이지를 그대로 가져와서 거기서 데이터를 추출해 내는 행위이다. 크롤링하는 소프트웨어는 크롤러(crawler)라고 부른다. 검색 엔진에서도 유사한 것을 필수적으로 사용하는데, 웹 상의 다양한 정보를 자동으로 검색하고 색인하기 위해 사용한다. 네이버, 구글 등도 이런 봇을 이용해 운영된다. Python이 이 분야의 선두주자로서, 대표적인 파이썬 라이브러리의 예로 beautifulsoup가 있고 그 외에도 selenium이라는 라이브러리가 인기를 끌고있다. 하지만 나는 nodejs를 사용한 프로젝트를 진행중이기 때문에 Javascript의 라이브러리를 이용해서 기능을 구현했다. 출처: https://namu.wiki/w/..