在科學(xué)研究中，數(shù)據(jù)的獲取及分析是最重要的也是最棘手的兩個(gè)環(huán)節(jié)！

在前大數(shù)據(jù)時(shí)代，一般使用實(shí)驗(yàn)法、調(diào)查問(wèn)卷、訪談或者二手?jǐn)?shù)據(jù)等方式，將數(shù)據(jù)整理為結(jié)構(gòu)化的表格數(shù)據(jù)，之后再使用各種計(jì)量分析方法，對(duì)這些表格數(shù)據(jù)進(jìn)行分析。但大數(shù)據(jù)時(shí)代，網(wǎng)絡(luò)數(shù)據(jù)成為各方學(xué)者亟待挖掘的潛在寶藏，大量商業(yè)信息、社會(huì)信息以文本等非結(jié)構(gòu)化、異構(gòu)型數(shù)據(jù)格式存儲(chǔ)于海量的網(wǎng)頁(yè)中。那么對(duì)于經(jīng)管為代表的人文社科類專業(yè)科研工作者而言，通過(guò)Python可以幫助學(xué)者解決使用Web數(shù)據(jù)進(jìn)行科研面臨的兩個(gè)問(wèn)題：

Python跟英語(yǔ)一樣是一門語(yǔ)言

【資料圖】

數(shù)據(jù)類型之字符串

數(shù)據(jù)類型之列表元組集合

數(shù)據(jù)類型之字典

數(shù)據(jù)類型之布爾值、None

邏輯語(yǔ)句(if&for&tryexcept)

列表推導(dǎo)式

理解函數(shù)

常用的內(nèi)置函數(shù)

內(nèi)置庫(kù)文件路徑pathlib庫(kù)

內(nèi)置庫(kù)csv文件庫(kù)

內(nèi)置庫(kù)正則表達(dá)式re庫(kù)

初學(xué)python常出錯(cuò)誤匯總

網(wǎng)絡(luò)爬蟲原理

網(wǎng)絡(luò)訪問(wèn)requests庫(kù)

網(wǎng)頁(yè)解析pyquery庫(kù)

案例豆瓣讀書

案例Boss直聘

如何解析json數(shù)據(jù)

案例豆瓣電影

案例京東商城

案例用爬蟲下載文檔及多媒體文件

案例上市公司定期報(bào)告pdf批量下載

案例上交所招股說(shuō)明pdf批量下載

案例深交所招股說(shuō)明pdf批量下載

爬蟲知識(shí)點(diǎn)總結(jié)

從編碼/解碼視角重新理解文本

讀取不同格式文件中的數(shù)據(jù)

如何將多個(gè)txt文件整理到一個(gè)excel中

案例中文分詞及數(shù)據(jù)清洗

案例詞頻統(tǒng)計(jì)&詞云圖

案例共現(xiàn)法擴(kuò)展情感詞典(領(lǐng)域詞典)

案例詞向量word2vec擴(kuò)展領(lǐng)域詞典

案例中文情感分析(詞典法)

cntext庫(kù) 情感分析代碼操作

案例對(duì)excel中的文本進(jìn)行情感分析 91

案例 語(yǔ)言具體性與心理距離 | 以JCR2021論文為例

案例 使用MD&A數(shù)據(jù)測(cè)量企業(yè)數(shù)字化| 以管理世界2021、財(cái)經(jīng)研究2022論文為例

了解機(jī)器學(xué)習(xí)ML

使用機(jī)器學(xué)習(xí)做文本分析的流程

scikit-learn機(jī)器學(xué)習(xí)庫(kù)簡(jiǎn)介

文本特征抽取(特征工程)

案例在線評(píng)論文本分類

使用標(biāo)注工具對(duì)數(shù)據(jù)進(jìn)行標(biāo)注

案例計(jì)算文本情感分析(有權(quán)重)

案例 文本相似性計(jì)算

案例 使用文本相似性識(shí)別變化(政策連續(xù)性)

案例 Kmeans聚類算法

案例 LDA話題模型

使用機(jī)器學(xué)習(xí)從圖片中提取文本信息

詞嵌入原理及應(yīng)用概述

案例 豆瓣影評(píng)-訓(xùn)練詞向量&使用詞向量

案例 使用詞向量做話題建模

案例 認(rèn)知指標(biāo)(態(tài)度、偏見等)的測(cè)量

總結(jié)-文本分析在社科(經(jīng)管)領(lǐng)域中的應(yīng)用

在這里我把技術(shù)細(xì)分為詞頻、詞袋、w2v建詞典、w2v認(rèn)知變遷四個(gè)維度，整理了經(jīng)管7篇論文。大家可以閱讀這7篇論文，掌握文本分析的應(yīng)用場(chǎng)景。

[1]沈艷,陳赟,&黃卓.(2019).文本大數(shù)據(jù)分析在經(jīng)濟(jì)學(xué)和金融學(xué)中的應(yīng)用:一個(gè)文獻(xiàn)綜述.經(jīng)濟(jì)學(xué)(季刊),18(4),1153-1186.[2]王偉,陳偉,祝效國(guó),王洪偉.眾籌融資成功率與語(yǔ)言風(fēng)格的說(shuō)服性-基于Kickstarter的實(shí)證研究.*管理世界*.2016;5:81-98.[3]胡楠,薛付婧,王昊楠.管理者短視主義影響企業(yè)長(zhǎng)期投資嗎？——基于文本分析和機(jī)器學(xué)習(xí)[J].管理世界,2021,37(05):139-156+11+19-21.[4]KaiLi,FengMai,RuiShen,XinyanYan,MeasuringCorporateCultureUsingMachineLearning,*TheReviewofFinancialStudies*,2020[5]LoughranT,McDonaldB.Textualanalysisinaccountingandfinance:Asurvey[J].*JournalofAccountingResearch*,2016,54(4):1187-1230.AuthorlinksopenoverlaypanelComputationalsocioeconomics[6]Berger,Jonah,AshleeHumphreys,StephanLudwig,WendyW.Moe,OdedNetzer,andDavidA.Schweidel."Unitingthetribes:Usingtextformarketinginsight."*JournalofMarketing*84,no.1(2020):1-25.[7]Cohen,Lauren,ChristopherMalloy,andQuocNguyen."Lazyprices."*TheJournalofFinance*75,no.3(2020):1371-1415.[8]孟慶斌,楊俊華,魯冰.管理層討論與分析披露的信息含量與股價(jià)崩盤風(fēng)險(xiǎn)——基于文本向量化方法的研究[J].*中國(guó)工業(yè)經(jīng)濟(jì)*,2017(12):132-150.[9]Wang,Quan,BeibeiLi,andParamVirSingh."Copycatsvs.OriginalMobileApps:AMachineLearningCopycat-DetectionMethodandEmpiricalAnalysis."*InformationSystemsResearch*29.2(2018):273-291.[10]Packard,Grant,andJonahBerger.“Howconcretelanguageshapescustomersatisfaction.”_JournalofConsumerResearch_47,no.5(2021):787-806.[11]冉雅璇,李志強(qiáng),劉佳妮,張逸石.大數(shù)據(jù)時(shí)代下社會(huì)科學(xué)研究方法的拓展——基于詞嵌入技術(shù)的文本分析的應(yīng)用[J].南開管理評(píng)論:1-27.[12]曾慶生,周波,張程,陳信元.年報(bào)語(yǔ)調(diào)與內(nèi)部人交易:“表里如一”還是“口是心非”?[J].管理世界,2018,34(09):143-160.[13]彭紅楓,&林川.(2018).言之有物:網(wǎng)絡(luò)借貸中語(yǔ)言有用嗎?——來(lái)自人人貸借款描述的經(jīng)驗(yàn)證據(jù)[J].金融研究,461(11),133-153.[14]吳非,胡慧芷,林慧妍,and任曉怡.“企業(yè)數(shù)字化轉(zhuǎn)型與資本市場(chǎng)表現(xiàn)——來(lái)自股票流動(dòng)性的經(jīng)驗(yàn)證據(jù)[J].”管理世界(2021).

公眾號(hào)和博客積累了大量社會(huì)科學(xué)文本挖掘資料，涵蓋文本分析概念、技術(shù)、代碼、數(shù)據(jù)等。全部理清楚感興趣的可以關(guān)注收藏。

https://hidadeng.github.io/blog/the_text_analysis_list_about_ms/

讀完本文你就了解什么是文本分析

轉(zhuǎn)載 | 金融學(xué)文本大數(shù)據(jù)挖掘方法與研究進(jìn)展

視頻 | Python文本分析與會(huì)計(jì)

視頻 |文本分析在經(jīng)管研究中的應(yīng)用

視頻| Python文本挖掘與金融科技

資料 | 量化歷史學(xué)與經(jīng)濟(jì)學(xué)研究

近年《管理世界》《管理科學(xué)學(xué)報(bào)》使用文本分析論文

管理世界 | 使用中文LM金融詞典做管理層語(yǔ)調(diào)分析

管理世界 | 使用文本分析&機(jī)器學(xué)習(xí)測(cè)量短視主義

管理世界 | 使用 經(jīng)營(yíng)討論與分析 測(cè)量 企業(yè)數(shù)字化指標(biāo)

文本分析在市場(chǎng)營(yíng)銷研究中的應(yīng)用

營(yíng)銷研究中文本分析應(yīng)用概述(含案例及代碼)

計(jì)算文本的語(yǔ)言具體性 | 以JCR2021論文為例

文本分析方法在2021管理世界中的應(yīng)用

轉(zhuǎn)載 | 大數(shù)據(jù)時(shí)代下社會(huì)科學(xué)研究方法的拓展——基于詞嵌入技術(shù)的文本分析的應(yīng)用

文本可讀性研究及應(yīng)用清單

詞嵌入測(cè)量不同群體對(duì)某概念的態(tài)度(偏見)

PNAS | 文本網(wǎng)絡(luò)分析&文化橋梁Python代碼實(shí)現(xiàn)

PNAS | 歷史語(yǔ)言記錄揭示了近幾十年來(lái)認(rèn)知扭曲的激增

PNAS | 情侶分手3個(gè)月前就有預(yù)兆！聊天記錄還能反映分手后遺癥

PNAS|詞匯熟悉度對(duì)線上參與和資金籌集的預(yù)測(cè)性效用

MS | 使用網(wǎng)絡(luò)算法識(shí)別創(chuàng)新的顛覆性與否

文本可讀性研究及應(yīng)用清單

Python語(yǔ)法入門 | 含視頻代碼

30天Python編程學(xué)習(xí)挑戰(zhàn)

中文金融情感詞典

在會(huì)計(jì)研究中使用Python進(jìn)行文本分析

Python與文化分析入門

免費(fèi)社科類Python編程課程列表

tomotopy庫(kù) | 速度最快的LDA主題模型

cntext庫(kù) | 中文情感分析包

認(rèn)知的測(cè)量 | 向量距離vs語(yǔ)義投影

BERTopic主題建模庫(kù)

doccano|為機(jī)器學(xué)習(xí)建模做數(shù)據(jù)標(biāo)注

PyPlutchik庫(kù) | 可視化文本的情緒輪(情緒指紋)

WordBias庫(kù) | 發(fā)現(xiàn)偏見(刻板印象)的交互式工具

whatlies庫(kù) | 可視化詞向量

KeyBERT | 關(guān)鍵詞發(fā)現(xiàn)庫(kù)

FinBERT | 金融文本BERT模型，可情感分析、識(shí)別ESG和FLS類型

Top2Vec | 主題建模和語(yǔ)義搜索庫(kù)

tfidf有權(quán)重的情感分析

Shifterator庫(kù) | 詞移圖分辨兩文本用詞風(fēng)格差異

使用Pandas處理文本數(shù)據(jù)

Label-Studio|多媒體數(shù)據(jù)標(biāo)注工具

工具分享 | 正則表達(dá)式解析

EmoBank | 中文維度情感詞典

Maigret庫(kù) | 查詢某用戶名在各平臺(tái)網(wǎng)站的使用情況

百度指數(shù) | 使用qdata采集百度指數(shù)

Asent庫(kù) | 英文文本數(shù)據(jù)情感分析

安裝python包出現(xiàn)報(bào)錯(cuò)：Microsoft Visual 14.0 or greater is required. 怎么辦？

Python | 詞移距離(Word Mover"s Distance)

豆瓣影評(píng)| 探索詞向量妙處

karateclub庫(kù) | 計(jì)算社交網(wǎng)絡(luò)中節(jié)點(diǎn)的向量

causalinference庫(kù) | 使用Python做因果推斷

機(jī)器學(xué)習(xí)實(shí)戰(zhàn) | 信用卡欺詐檢測(cè)

實(shí)戰(zhàn) | 構(gòu)建基于客戶細(xì)分的 K-Means 聚類算法！

nlp-roadmap | 文本分析知識(shí)點(diǎn)思維腦圖

R語(yǔ)言 | ggplot2簡(jiǎn)明繪圖之散點(diǎn)圖

R語(yǔ)言 | 使用posterdown包制作學(xué)術(shù)會(huì)議海報(bào)

R語(yǔ)言 | 使用ggsci包繪制sci風(fēng)格圖表

R語(yǔ)言 | ggpubr包讓數(shù)據(jù)可視化更加優(yōu)雅

R語(yǔ)言 | 讓統(tǒng)計(jì)更easy的easystats集合包

R語(yǔ)言 | 使用shiny的reactive表達(dá)式寫應(yīng)用程序

R語(yǔ)言 | 使用stargazer包輸出格式化回歸結(jié)果

R語(yǔ)言 | 使用word2vec詞向量模型

Latex | 為Rmarkdown配置tinytex環(huán)境

LovelyPlots庫(kù) | 格式化科學(xué)論文、論文和演示文稿的可視化圖形

YelpDaset | 酒店管理類數(shù)據(jù)集10+G

70G上交所年報(bào)數(shù)據(jù)集

14G數(shù)據(jù)集 | 2007-2021年A股上市公司年度報(bào)告（txt文件）

17G資源 | 深交所企業(yè)社會(huì)責(zé)任報(bào)告

27G數(shù)據(jù)集 | 使用Python對(duì)27G招股說(shuō)明書進(jìn)行文本分析

1850萬(wàn)條 | 世界地圖POI興趣點(diǎn)數(shù)據(jù)集

1.5G數(shù)據(jù)集 | 200萬(wàn)條Indiegogo眾籌項(xiàng)目信息

12G數(shù)據(jù)集 | 23w條Kickstarter項(xiàng)目信息

中文語(yǔ)義常用詞典 | ChineseSemanticKB

中文詞向量資源匯總 & 使用方法

NLP資源 | 汽車、金融等9大領(lǐng)域預(yù)訓(xùn)練詞向量模型下載資源

Google Books Ngram Viewer顯示英文詞匯歷史使用趨勢(shì)

標(biāo)簽：