正在构建一个新商业世界系统和秩序的阿里巴巴，在外界看来，本身也是从一个弱不禁风甚或思路不清的小企业发展起来的。马云经常提醒身边人说，阿里巴巴脱离中小企业也只是这两年的事情。但他一直强调，阿里巴巴知道自己要做什么，不做什么。早期曾经投资阿里巴巴的一位风险投资家告诉《商务周刊》，阿里巴巴在创业早期就基本确定了企业的长期战略，并始终按照战略在诱惑横行的互联网行业做着大舍大得的抉择。按他的话说：“这个过程一波三折，很有点戏剧性。”
阿里巴巴公司事务部总监周岚是马云第一次创业“中国黄页”时的老臣，她推销出去了马云的第一单生意。在阿里巴巴创业之初，周岚负责给客户联系酒店和票务，随着客户的增多，2000年，阿里巴巴曾经打算开一个机票服务网站。
“现在想想，如果持续做下去，说不定我们就是现在的携程呢。”周岚半开玩笑地说道。马云在第二年就砍掉这个很有前途的业务。在周岚看来，阿里巴巴快速发展的过程中，类似的诱惑和选择不计其数，如果走了另外一步，或许阿里巴巴就不再是现在的样子。
2000年马云收到来自日本软银2000万美元的风险投资，这笔钱对一个小公司的意义不言而喻。当时公司不过100来人，被马云戏称“阿里巴巴一百单八将”，刚刚确定了要专注做电子商务。
来听听阿里巴巴国际公关部副总裁李博达的回忆。李博达2000年加入阿里巴巴，当时马云刚刚登上《财富》杂志封面，豪气万丈地在全球范围内收罗互联网的顶尖人才——他们大多成名于硅谷，毕业于哈佛、斯坦福等令人眩晕的学府。阿里巴巴做了一个全球规划，面对一个广袤的世界版图，马云并不像他显现的那样“狂”。马云强调自己是创始人，而不是职业经理人，被挖过来的这些人被安排在香港掌控着整个阿里巴巴的运行。李博达记得很清楚：“马云当时对我们说，我很相信你们，我只是一个英文老师，没有太多经验。”
但事实证明，很多空降的高管并不了解中国的情况，技术精英们对电子商务的理解也过于理论化。香港高管团队从麦肯锡思维方式考虑阿里巴巴的战略，告诉马云应该建一个交易平台，企业贸易的所有环节都放在阿里巴巴一个平台上。这是后来马云所提的“Work at alibaba”的最早由来。
但是，当时绝大部分企业刚刚半信半疑地尝试网上交易，并不需要一个全面的贸易平台。“他们不要加一个中间人，只要阿里巴巴介绍买家，具体会不会成交，由他们自己决定。”李博达总结，“就像交友网，你负责介绍，相亲和结婚是人家自己的事，他们只需要一个媒人。”
张璞当时在人力资源部工作，对此也印象深刻。他回忆，阿里巴巴的市场推广很快陷入一个难题：无法向客户解释阿里巴巴到底要做什么。海外事业部经历短时间快速发展，一度在硅谷设立事业部，但随后迅速跌到低谷。马云最后被迫进行了裁员，留守的员工开始B2C(Back to China)。
马云总结这段不成功的历史时说，并不是这些人不好，但好比你要给一辆自行车加上波音747的飞机引擎，能飞得起来吗？
从2001年开始，马云决定听从客户的意见，回到最基本的信息交互业务模式。2001—2002年，是阿里巴巴彻底回归本土化的阶段，也是阿里巴巴置之死地而后生的关键时期。这两年，马云挥泪撤掉海外事业部，大量采取“零预算”和口碑传播的推广方式。而2001年中国加入WTO，也在客观上拉了处于悬崖边的阿里巴巴一把。4万元年费的“中国供应商”受到急于在海外找到卖家的中小企业热捧，而“诚信通”的收费也被市场逐渐认可。2002年年底，马云赚了几十万元。2003年，阿里巴巴实现“每天100万赢利”，2005年，则是“每天纳税100万”。
事实上，马云始终没忘那些硅谷精英向他描绘的“在阿里巴巴平台上实现全贸易环节”的诱人愿景。缓过一口气来的马云，自己提出了一个概念：“Work at alibaba”。
张璞回忆，大约在2004年，马云有一天突然相当兴奋的告诉他：“你要知道，我们要做的是所有商人生存发展的一个平台。”这是马云第一次在集团内部提出这个想法。
每个企业都有各自所需和相对应的平台，除了信息交流怎么可能成为他们共有的平台呢？回忆起当时的情形，张璞说大家听了都“没感觉”，不知道马云嘴里蹦出的是一个什么邪门的想法，老成执重者规劝他们的带头人不要“好了伤疤忘了疼”。
但是一个人的到来，让“Work at alibaba”这个虚无飘渺的概念从战略层面得到了系统的讨论和梳理。这个人就是被阿里巴巴上上下下尊称为“曾教授”的曾鸣。在很长的一段时间内，曾鸣在阿里巴巴集团内部扮演着军师的角色。
“马云一开始就把网络当作一个工具，所以能跳出去看清互联网企业的本质。”曾鸣对《商务周刊》回忆，马云很快就找到了自己的定位——阿里巴巴不是互联网公司，而是一家服务性公司。因此，怎么利用互联网、提供什么样的服务，是他考虑很多问题的出发点。
作为长江商学院的专职教授，曾鸣在管理学界以精通企业战略闻名，他对世界范围内企业战略案例了如指掌，还对中国最优秀的企业，如海尔、TCL、华为等，有近距离的观察。他对企业战略的一个著名论断是，一定要对产业终局做一个准确判断，然后倒推企业的战略，以及具体策略的制定。
从2003年开始，曾鸣受马云邀请担任阿里巴巴的首席战略顾问，负责组织阿里巴巴的高层每年开不少于10天的战略会。参与者包括马云和主要业务的负责人。这样的会议，一般在年初的时候会根据长期战略分解得到该年度目标，每季度则会对上次的目标进行回顾总结，判断是否偏离了产业终局的方向。从一开始，“Work at alibaba”就被纳入战略会的主要话题反复讨论，战略的具体内容逐渐清晰起来。
曾鸣曾广泛研究革命性创新的技术影响世界的路线图，他发现，无论是瓦特发明的蒸汽机，还是爱迪生发明的电灯泡，这些伟大的发明都是经历了20年的风雨之后才真正开始改变世界。
“互联网也不例外，过去的10年，互联网还停留在技术导向层面，现在要回到互联网的本质，即作为一个技术革命真正改变世界。”曾鸣所能看到的产业终局是：商务即电子商务。
“这意味着，互联网由信息交互工具变成凝聚新型产业组织模式的中心。”曾对《商务周刊》说。
2005年以前，阿里巴巴对“Work at alibaba”的设想，依然是围绕如何让商务活动的主要环节在网络上实现。其中2003年诞生的淘宝网，用来打通企业与最终用户的界限，形成一个封闭完整的电子商务市场；2004年诞生的支付宝，用来解决网上交易的信用问题。但在生意之外，中小企业另一些棘手的事情，比如融资、人力、管理等等，还没有作为一个战略性课题纳入“Work at alibaba”的范畴。甚至已经延续了5年的阿里巴巴网B2B业务模式也没有根本变化，还停留在信息交互的阶段。
2006年中旬，整个阿里巴巴集团的主要业务齐头并进，继续扩大在行业内的领先地位已成事实。到年底摆在马云面前的成绩单是，淘宝的C2C交易额达到169亿元人民币，占整个中国C2C市场的80%；支付宝占第三方支付工具的市场比例也达到50%。而B2B的阿里巴巴网，其交易额“比第二名到第10名加起来都要多”，企业用户达到2000万的级别。
但至此，阿里巴巴依然还仅是一个行业内的巨无霸企业。
量变终于带来质变。阿里巴巴坚持的综合性平台虽然在近几年来受到垂直行业网站的挑战，但其综合性也给中小企业在采购、销售、内外贸以及不同行业之间留有辗转腾挪的空间，加上阿里巴巴与淘宝的不断融合、对接，阿里巴巴平台上的中小企业用户产生了巨大的聚合效应。最直接的表现就是，越来越多的资源开始主动靠拢阿里巴巴。
2006年年中的战略会上，阿里巴巴高层开始决定改变以往各块业务线性发展的态势，首先要进行的就是盘清现有的资源，把分工明显的几个业务分拆成独立公司。同时，决定进军中小企业的软件市场。
在这种背景下，阿里巴巴主动完成了被马云称为“有史以来最大规模的一次拆分”。显然，在他看来，阿里巴巴从改变本行业，到改变若干行业，又发展到了改变万千企业做生意的平台的时机成熟了。