预览加载中,请您耐心等待几秒...
1/10
2/10
3/10
4/10
5/10
6/10
7/10
8/10
9/10
10/10
在线预览结束,喜欢就下载吧,查找使用更方便
如果您无法下载资料,请参考说明:
1、部分资料下载需要金币,请确保您的账户上有足够的金币
2、已购买过的文档,再次下载不重复扣费
3、资料包下载后请先用软件解压,在使用对应软件打开
基于Hadoop的交通信息物理系统交通诱导方法研究摘要随着互联网的不断发展,社交网络、电子商务、搜索引擎、移动计算等已经深入到人们的日常生活中,各类数据呈现出爆发式的增长,但是人们对信息的要求却更加精细化、个性化。如何对海量的非结构化文本数据进行分类的研究有着十分重要的意义,而云计算为海量数据的处理提供了强有力的工具,为此本文研究了基于云计算平台Hadoop的文本分类。本文针对交通数据大吞吐量及时效性等特点,为了更高效地处理该类型数据,探索了一种基于云计算服务模式的、利用Hadoop技术架构可扩展的交通数据处理、发布、服务实现方法,并实现了原型系统。该方法的主要思想是利用Hadoop所提供的分布式文件处理能力对海量的交通数据进行并行处理,并以Flume+Kafka+SparkStreaming大数据系统的整合搭建和处理为创新基点搭建平台,最后引用A*算法,优化路网进行平衡配流,简化路径搜索方式。该过程效率较高,且运行可靠性强,与传统方法相比具有较为突出的优势。相关实验测试结果显示,该方法大大提高了该类型数据处理时效,取得了较为理想的实验效果,进一步论证了此方法对于处理该类数据的可靠性和有效性,保证了交通系统数据流式处理的时效性和高容错性。关键词:交通诱导系统Hadoop框架结构大数据系统搭建算法优化处理路径规划AbstractWiththecontinuousdevelopmentoftheInternet,socialnetworks,e-commerce,searchengines,mobilecomputinghasgonedeepintopeople'sdailylife,varioustypesofdatashowingexplosivegrowth,buttheinformationrequirementsaremorerefinedandpersonalized.Theclassificationresearchonvastamountsofunstructuredtextdatahasaveryimportantsignificance,itprovidesapowerfultoolforcloudcomputingandmassivedataprocessing,thispaperstudiesthetextclassificationofcloudcomputingplatformbasedonHadoop.Aimingatthecharacteristicsofhighthroughputdatatrafficandtimeliness,inordertomoreefficientlyhandlethistypeofdata,exploreamethodtorealizeservicemodelbasedoncloudcomputing,trafficdatacanbeextendedbyHadooptechnologyarchitectureprocessing,services,andimplementaprototypesystem.ThemainideaofthismethodistheparallelprocessingfordistributedfileusingHadoop'sabilitytodealwiththemassivetrafficdata,andtointegratetheFlume+Kafka+SparkStreamingdatasystemconstructionandprocessingasthebasicpointsofinnovationplatform,finallyreferenceA*algorithm,optimizationofroadnetworkequilibriumassignment,simplifiedpathsearchmethod.Theprocessisefficientandreliable,andhasamoreprominentadvantagecomparedwiththetraditionalmethods.Testresultsshowthatthismethodcangreatlyimprovethedataprocessingefficiency,achievedsatisfactoryresults,andfurtherdemonstratesthereliabilityofthismethodforthedataprocessingandeffectiveness,toensurethetrafficsystemdataflowtimelinessandhightolerancetypeprocess