picking.html 20 KB

123456789101112131415161718192021222324252627282930313233343536373839404142434445464748495051525354555657585960616263646566676869707172737475767778798081828384858687888990919293949596979899100101102103104105106107108109110111112113114115116117118119120121122123124125126127128129130131132133134135136137138139140141142143144145146147148149150151152153154155156157158159160161162163164165166167168169170171172173174175176177178179180181182183184185186187188189190191192193194195196197198199200201202203204205206207208209210211212213214215216217218219220221222223224225226227228229230231232233234235236237238239240241242243244245246247248249250251252253254255256257258259260261262263264265266267268269270271272273274275276277278279280281282283284285286287288289290291292293294295296297298299300301302303304305306307308309310311312313314315316317318319320321322323324325326327328329330331332333334335336337338339340341342343344345346347348349350351352353354355356357358359360361362363364365366367368369370371372373374375376377378379380381382383384385386387388389390391392393394
  1. <!DOCTYPE html><html lang="zh"><head>
  2. <meta charset="utf-8">
  3. <title>拾取</title>
  4. <meta name="viewport" content="width=device-width, user-scalable=no, minimum-scale=1.0, maximum-scale=1.0">
  5. <meta name="twitter:card" content="summary_large_image">
  6. <meta name="twitter:site" content="@threejs">
  7. <meta name="twitter:title" content="Three.js – 拾取">
  8. <meta property="og:image" content="https://threejs.org/files/share.png">
  9. <link rel="shortcut icon" href="../../files/favicon_white.ico" media="(prefers-color-scheme: dark)">
  10. <link rel="shortcut icon" href="../../files/favicon.ico" media="(prefers-color-scheme: light)">
  11. <link rel="stylesheet" href="../resources/lesson.css">
  12. <link rel="stylesheet" href="../resources/lang.css">
  13. <!-- Import maps polyfill -->
  14. <!-- Remove this when import maps will be widely supported -->
  15. <script async src="https://unpkg.com/es-module-shims@1.3.6/dist/es-module-shims.js"></script>
  16. <script type="importmap">
  17. {
  18. "imports": {
  19. "three": "../../build/three.module.js"
  20. }
  21. }
  22. </script>
  23. <link rel="stylesheet" href="/manual/zh/lang.css">
  24. </head>
  25. <body>
  26. <div class="container">
  27. <div class="lesson-title">
  28. <h1>拾取</h1>
  29. </div>
  30. <div class="lesson">
  31. <div class="lesson-main">
  32. <p><em>拾取</em> 指代推断用户点击或触碰了哪个对象的过程。有很多方式实现拾取,但是,每一种都有相应的成本,使用时需有所取舍。下面是最常用的两种方式:</p>
  33. <p><strong>射线追踪法</strong>(raycasting)很可能是最常用的方法,其基本原理是:从鼠标处发射一条射线,穿透场景的视椎体,通过计算,找出视锥体中哪些对象与射线相交。</p>
  34. <p>首先,获取鼠标的屏幕坐标.其次,对其应用摄像机的投影和方向的矩阵变换,得到其在世界空间的坐标。然后,计算出一条射线,从视锥体的近端平面射向远端平面。再然后,对于场景中每一个对象的每一个三角,检查其是否与射线相交。假设你的场景中有1000个对象,每个对象有1000个三角,那么就需要检查一百万个三角。</p>
  35. <p>对此,可以做一些优化,先检查对象的包围球或包围盒是否与射线相交,包围球或包围盒是指包含整个对象的球体或者立方体,如果射线未相交,就不需要检查组成该对象的三角们了。</p>
  36. <p>THREE.js 提供了 <code class="notranslate" translate="no">RayCaster</code> 类来做这些事情。</p>
  37. <p>接下来,让我们先创建一个包含100个对象的场景,然后试着去拾取这些对象。可以从样例<a href="responsive.html">threejs-响应式</a>开始。</p>
  38. <p>改动一些代码
  39. 使摄像机成为一个对象的子元素,旋转这个对象时,摄像机会像绑定在自拍杆上一样,在场景中游弋。</p>
  40. <pre class="prettyprint showlinemods notranslate lang-js" translate="no">*const fov = 60;
  41. const aspect = 2; // 画布默认纵横比为2
  42. const near = 0.1;
  43. *const far = 200;
  44. const camera = new THREE.PerspectiveCamera(fov, aspect, near, far);
  45. *camera.position.z = 30;
  46. const scene = new THREE.Scene();
  47. +scene.background = new THREE.Color('white');
  48. +// 把摄像机放到自拍杆上 (把它添加为一个对象的子元素)
  49. +// 如此,我们就能通过旋转自拍杆,来移动摄像机
  50. +const cameraPole = new THREE.Object3D();
  51. +scene.add(cameraPole);
  52. +cameraPole.add(camera);
  53. </pre>
  54. <p>在 <code class="notranslate" translate="no">render</code> 函数中旋转摄像机端点。</p>
  55. <pre class="prettyprint showlinemods notranslate lang-js" translate="no">cameraPole.rotation.y = time * .1;
  56. </pre>
  57. <p>把光源也绑定到摄像机上,这样光源就会随着摄像机移动。</p>
  58. <pre class="prettyprint showlinemods notranslate lang-js" translate="no">-scene.add(light);
  59. +camera.add(light);
  60. </pre>
  61. <p>生成100个立方体,每个立方体的颜色,位置,朝向,缩放都随机。</p>
  62. <pre class="prettyprint showlinemods notranslate lang-js" translate="no">const boxWidth = 1;
  63. const boxHeight = 1;
  64. const boxDepth = 1;
  65. const geometry = new THREE.BoxGeometry(boxWidth, boxHeight, boxDepth);
  66. function rand(min, max) {
  67. if (max === undefined) {
  68. max = min;
  69. min = 0;
  70. }
  71. return min + (max - min) * Math.random();
  72. }
  73. function randomColor() {
  74. return `hsl(${rand(360) | 0}, ${rand(50, 100) | 0}%, 50%)`;
  75. }
  76. const numObjects = 100;
  77. for (let i = 0; i &lt; numObjects; ++i) {
  78. const material = new THREE.MeshPhongMaterial({
  79. color: randomColor(),
  80. });
  81. const cube = new THREE.Mesh(geometry, material);
  82. scene.add(cube);
  83. cube.position.set(rand(-20, 20), rand(-20, 20), rand(-20, 20));
  84. cube.rotation.set(rand(Math.PI), rand(Math.PI), 0);
  85. cube.scale.set(rand(3, 6), rand(3, 6), rand(3, 6));
  86. }
  87. </pre>
  88. <p>最后,让我们来完成拾取功能。
  89. 写一个简单的类来管理拾取操作</p>
  90. <pre class="prettyprint showlinemods notranslate lang-js" translate="no">class PickHelper {
  91. constructor() {
  92. this.raycaster = new THREE.Raycaster();
  93. this.pickedObject = null;
  94. this.pickedObjectSavedColor = 0;
  95. }
  96. pick(normalizedPosition, scene, camera, time) {
  97. // 恢复上一个被拾取对象的颜色
  98. if (this.pickedObject) {
  99. this.pickedObject.material.emissive.setHex(this.pickedObjectSavedColor);
  100. this.pickedObject = undefined;
  101. }
  102. // 发出射线
  103. this.raycaster.setFromCamera(normalizedPosition, camera);
  104. // 获取与射线相交的对象
  105. const intersectedObjects = this.raycaster.intersectObjects(scene.children);
  106. if (intersectedObjects.length) {
  107. // 找到第一个对象,它是离鼠标最近的对象
  108. this.pickedObject = intersectedObjects[0].object;
  109. // 保存它的颜色
  110. this.pickedObjectSavedColor = this.pickedObject.material.emissive.getHex();
  111. // 设置它的发光为 黄色/红色闪烁
  112. this.pickedObject.material.emissive.setHex((time * 8) % 2 &gt; 1 ? 0xFFFF00 : 0xFF0000);
  113. }
  114. }
  115. }
  116. </pre>
  117. <p>可以看到,我们创建了一个 <code class="notranslate" translate="no">RayCaster</code> 实例,调用该实例的 <code class="notranslate" translate="no">pick</code> 方法可以在场景中发出一条射线。如果,射线有撞击到场景中的物体,修改撞击到的第一个物体的颜色。</p>
  118. <p>当然,也可以在用户点击鼠标时,调用这个方法,这恐怕是最常见的应用场景。但是,在本范例中,不管在鼠标下方是什么,在每一帧中都会进行拾取操作,为此,需要跟踪鼠标的位置。</p>
  119. <pre class="prettyprint showlinemods notranslate lang-js" translate="no">const pickPosition = {x: 0, y: 0};
  120. clearPickPosition();
  121. ...
  122. function getCanvasRelativePosition(event) {
  123. const rect = canvas.getBoundingClientRect();
  124. return {
  125. x: (event.clientX - rect.left) * canvas.width / rect.width,
  126. y: (event.clientY - rect.top ) * canvas.height / rect.height,
  127. };
  128. }
  129. function setPickPosition(event) {
  130. const pos = getCanvasRelativePosition(event);
  131. pickPosition.x = (pos.x / canvas.width ) * 2 - 1;
  132. pickPosition.y = (pos.y / canvas.height) * -2 + 1; // note we flip Y
  133. }
  134. function clearPickPosition() {
  135. // 对于触屏,不像鼠标总是能有一个位置坐标,
  136. // 如果用户不在触摸屏幕,我们希望停止拾取操作。
  137. // 因此,我们选取一个特别的值,表明什么都没选中
  138. pickPosition.x = -100000;
  139. pickPosition.y = -100000;
  140. }
  141. window.addEventListener('mousemove', setPickPosition);
  142. window.addEventListener('mouseout', clearPickPosition);
  143. window.addEventListener('mouseleave', clearPickPosition);
  144. </pre>
  145. <p>需要注意的是,我们记录了归一化的鼠标位置。无论画布的尺寸,我们需要一个从左到右,落入区间(-1,1)的值,类似的,也需要一个从下到上,落入区间(-1,1)的值。</p>
  146. <p>完成以后,我们再添加对移动端的支持:</p>
  147. <pre class="prettyprint showlinemods notranslate lang-js" translate="no">window.addEventListener('touchstart', (event) =&gt; {
  148. // 阻止窗口滚动行为
  149. event.preventDefault();
  150. setPickPosition(event.touches[0]);
  151. }, {passive: false});
  152. window.addEventListener('touchmove', (event) =&gt; {
  153. setPickPosition(event.touches[0]);
  154. });
  155. window.addEventListener('touchend', clearPickPosition);
  156. </pre>
  157. <p>最终,在 <code class="notranslate" translate="no">render</code> 方法中,我们调用了 <code class="notranslate" translate="no">PickHelper</code> 的 <code class="notranslate" translate="no">pick</code> 方法</p>
  158. <pre class="prettyprint showlinemods notranslate lang-js" translate="no">+const pickHelper = new PickHelper();
  159. function render(time) {
  160. time *= 0.001; //将毫秒单位转换为秒单位;
  161. ...
  162. + pickHelper.pick(pickPosition, scene, camera, time);
  163. renderer.render(scene, camera);
  164. ...
  165. </pre>
  166. <p>这是最终结果
  167. </p><div translate="no" class="threejs_example_container notranslate">
  168. <div><iframe class="threejs_example notranslate" translate="no" style=" " src="/manual/examples/resources/editor.html?url=/manual/examples/picking-raycaster.html"></iframe></div>
  169. <a class="threejs_center" href="/manual/examples/picking-raycaster.html" target="_blank">点击此处在新标签页中打开</a>
  170. </div>
  171. <p></p>
  172. <p>这种方式看起来效果不错,而且能处理很多用户场景,但是也存在几个问题:</p>
  173. <ol>
  174. <li>这是基于CPU运算的
  175. Javascript遍历每一个对象,检查其包围盒或包围球是否与射线相交,如果相交,它必须遍历组成该对象的每一个三角,检查它们是否与射线相交。<br>好处是,JavaScript能够很容易计算出射线在哪里与三角相交,并为我们提供相关数据。举个例子,如果你想要在相交的位置放置一个标记。<br>缺点是,CPU要做大量的工作,当你的对象由大量的三角组成时,这个过程会有些慢。</li>
  176. <li>它无法处理一些奇怪的着色器或者位移
  177. 如果,你有一个变形或者拟态几何形状的着色器,Javascript无法理解这个变形,它会给出错误的答案。举例:据我所知,你不能对有皮肤的对象使用这种方式。</li>
  178. <li>无法处理透明的孔洞
  179. 举个例子,为立方体应用这个纹理<div class="threejs_center"><img class="checkerboard" src="../examples/resources/images/frame.png"></div>
  180. </li>
  181. </ol>
  182. <p>改动代码如下:</p>
  183. <pre class="prettyprint showlinemods notranslate lang-js" translate="no">+const loader = new THREE.TextureLoader();
  184. +const texture = loader.load('resources/images/frame.png');
  185. const numObjects = 100;
  186. for (let i = 0; i &lt; numObjects; ++i) {
  187. const material = new THREE.MeshPhongMaterial({
  188. color: randomColor(),
  189. +map: texture,
  190. +transparent: true,
  191. +side: THREE.DoubleSide,
  192. +alphaTest: 0.1,
  193. });
  194. const cube = new THREE.Mesh(geometry, material);
  195. scene.add(cube);
  196. ...
  197. </pre>
  198. <p>运行后,你就能看到问题所在。
  199. </p><div translate="no" class="threejs_example_container notranslate">
  200. <div><iframe class="threejs_example notranslate" translate="no" style=" " src="/manual/examples/resources/editor.html?url=/manual/examples/picking-raycaster-transparency.html"></iframe></div>
  201. <a class="threejs_center" href="/manual/examples/picking-raycaster-transparency.html" target="_blank">点击此处在新标签页中打开</a>
  202. </div>
  203. <p></p>
  204. <p>试着透过盒子拾取一些物体,但是你无法做到</p>
  205. <div class="threejs_center"><img src="../resources/images/picking-transparent-issue.jpg" style="width: 635px;"></div>
  206. <p>这是因为 JavaScript 无法通过简单的查看纹理和材质,就推测出你的对象是否存在一部分是透明的或者不透明。</p>
  207. <p>对于这些问题的解决方案,就是使用基于GPU的拾取方法。可惜,该方法概念上简单,但是相比于射线追踪法,用起来就复杂了。</p>
  208. <p>为了完成GPU拾取,对每一个对象使用唯一的颜色进行离屏渲染。然后,检查鼠标位置关联的像素的颜色。这个颜色就能告诉我们哪个对象被选中。</p>
  209. <p>这能解决上面的问题2,3。至于问题1的速度问题,这取决于业务场景。每个对象会被绘制两次,一次用于观看,一次用于拾取。也许存在开脑洞的解决方案,可以只绘制一次就完成查看和拾取,此处我们不会尝试。</p>
  210. <p>但是有一件事值得去做,因为拾取时我们只需读取1px,所以我们可以设置摄像机,只绘制1px,通过 <a href="/docs/#api/zh/cameras/PerspectiveCamera.setViewOffset"><code class="notranslate" translate="no">PerspectiveCamera.setViewOffset</code></a> 方法,可以告诉THREE.js 计算出一个摄像机 只呈现一个大矩形的一个很小的部分。这应该能节省一些运行时间。</p>
  211. <p>此时,要在THREE.js中实现这种拾取方式,需要创建两个场景。一个使用正常的网格对象填充。另外一个使用“拾取材质”的网格对象填充。</p>
  212. <p>因此,首先创建第二个场景,并将其清理为黑色背景。</p>
  213. <pre class="prettyprint showlinemods notranslate lang-js" translate="no">const scene = new THREE.Scene();
  214. scene.background = new THREE.Color('white');
  215. const pickingScene = new THREE.Scene();
  216. pickingScene.background = new THREE.Color(0);
  217. </pre>
  218. <p>然后,对于在主场景中的每一个立方体,在 <code class="notranslate" translate="no">pickingScene</code> 中,在同样的位置,创建一个与原立方体相似的,相关联的“可拾取立方体”,用对象的id生成颜色值,去设置对象的材质。</p>
  219. <pre class="prettyprint showlinemods notranslate lang-js" translate="no">const idToObject = {};
  220. +const numObjects = 100;
  221. for (let i = 0; i &lt; numObjects; ++i) {
  222. + const id = i + 1;
  223. const material = new THREE.MeshPhongMaterial({
  224. color: randomColor(),
  225. map: texture,
  226. transparent: true,
  227. side: THREE.DoubleSide,
  228. alphaTest: 0.1,
  229. });
  230. const cube = new THREE.Mesh(geometry, material);
  231. scene.add(cube);
  232. + idToObject[id] = cube;
  233. cube.position.set(rand(-20, 20), rand(-20, 20), rand(-20, 20));
  234. cube.rotation.set(rand(Math.PI), rand(Math.PI), 0);
  235. cube.scale.set(rand(3, 6), rand(3, 6), rand(3, 6));
  236. + const pickingMaterial = new THREE.MeshPhongMaterial({
  237. + emissive: new THREE.Color(id),
  238. + color: new THREE.Color(0, 0, 0),
  239. + specular: new THREE.Color(0, 0, 0),
  240. + map: texture,
  241. + transparent: true,
  242. + side: THREE.DoubleSide,
  243. + alphaTest: 0.5,
  244. + blending: THREE.NoBlending,
  245. + });
  246. + const pickingCube = new THREE.Mesh(geometry, pickingMaterial);
  247. + pickingScene.add(pickingCube);
  248. + pickingCube.position.copy(cube.position);
  249. + pickingCube.rotation.copy(cube.rotation);
  250. + pickingCube.scale.copy(cube.scale);
  251. }
  252. </pre>
  253. <p>注意到,此时,我们利用 <a href="/docs/#api/zh/materials/MeshPhongMaterial"><code class="notranslate" translate="no">MeshPhongMaterial</code></a> 创建材质,使用id生成颜色,设置到它的<code class="notranslate" translate="no">emissive</code>属性,<code class="notranslate" translate="no">color</code> 和 <code class="notranslate" translate="no">specular</code>属性设置为0,设置 <code class="notranslate" translate="no">alphaTest</code> 属性,只渲染纹理的alpha值大于该属性值的部分,还需要将<code class="notranslate" translate="no">blending</code> 设置为 <code class="notranslate" translate="no">NoBlending</code>,这样alpha通道不会作用到id生成色</p>
  254. <p>注意到,利用 <a href="/docs/#api/zh/materials/MeshPhongMaterial"><code class="notranslate" translate="no">MeshPhongMaterial</code></a> 可能并不是最优的解决方案,因为,在绘制拾取场景时,仍然需要计算所有的光线,尽管我们不需要这些计算。一个更优的方案是使用自定义的着色器,只为纹理alpha值大于 <code class="notranslate" translate="no">alphaTest</code> 属性值的部分,输出id生成色</p>
  255. <p>由于我们是从像素点拾取,而不是射线追踪,只需将代码修改为使用像素拾取方式,获取拾取位置。</p>
  256. <pre class="prettyprint showlinemods notranslate lang-js" translate="no">function setPickPosition(event) {
  257. const pos = getCanvasRelativePosition(event);
  258. - pickPosition.x = (pos.x / canvas.clientWidth ) * 2 - 1;
  259. - pickPosition.y = (pos.y / canvas.clientHeight) * -2 + 1; // 注意,翻转了y轴
  260. + pickPosition.x = pos.x;
  261. + pickPosition.y = pos.y;
  262. }
  263. </pre>
  264. <p>首先,我们将 <code class="notranslate" translate="no">PickHelper</code> 修改为 <code class="notranslate" translate="no">GPUPickHelper</code>。这里使用了 <a href="/docs/#api/zh/renderers/WebGLRenderTarget"><code class="notranslate" translate="no">WebGLRenderTarget</code></a>,如同我们在 <a href="rendertargets.html">多个渲染目标</a>中介绍的一样,此处,我们的渲染目标只有1像素的尺寸,1×1。</p>
  265. <pre class="prettyprint showlinemods notranslate lang-js" translate="no">-class PickHelper {
  266. +class GPUPickHelper {
  267. constructor() {
  268. - this.raycaster = new THREE.Raycaster();
  269. + // 创建一个1px的渲染目标
  270. + this.pickingTexture = new THREE.WebGLRenderTarget(1, 1);
  271. + this.pixelBuffer = new Uint8Array(4);
  272. this.pickedObject = null;
  273. this.pickedObjectSavedColor = 0;
  274. }
  275. pick(cssPosition, scene, camera, time) {
  276. + const {pickingTexture, pixelBuffer} = this;
  277. // 如果已经存在拾取的对象,将其颜色恢复
  278. if (this.pickedObject) {
  279. this.pickedObject.material.emissive.setHex(this.pickedObjectSavedColor);
  280. this.pickedObject = undefined;
  281. }
  282. + // 设置视野偏移来表现鼠标下的1px
  283. + const pixelRatio = renderer.getPixelRatio();
  284. + camera.setViewOffset(
  285. + renderer.getContext().drawingBufferWidth, // 全宽
  286. + renderer.getContext().drawingBufferHeight, // 全高
  287. + cssPosition.x * pixelRatio | 0, // rect x
  288. + cssPosition.y * pixelRatio | 0, // rect y
  289. + 1, // rect width
  290. + 1, // rect height
  291. + );
  292. + // 渲染场景
  293. + renderer.setRenderTarget(pickingTexture)
  294. + renderer.render(scene, camera);
  295. + renderer.setRenderTarget(null);
  296. +
  297. + // 清理视野偏移,回归正常
  298. + camera.clearViewOffset();
  299. + // 读取像素
  300. + renderer.readRenderTargetPixels(
  301. + pickingTexture,
  302. + 0, // x
  303. + 0, // y
  304. + 1, // width
  305. + 1, // height
  306. + pixelBuffer);
  307. +
  308. + const id =
  309. + (pixelBuffer[0] &lt;&lt; 16) |
  310. + (pixelBuffer[1] &lt;&lt; 8) |
  311. + (pixelBuffer[2] );
  312. - // 射线穿越视锥体
  313. - this.raycaster.setFromCamera(normalizedPosition, camera);
  314. - // 获取与射线相交的对象
  315. - const intersectedObjects = this.raycaster.intersectObjects(scene.children);
  316. - if (intersectedObjects.length) {
  317. - // 获取第一个对象,他是离鼠标最近的一个
  318. - this.pickedObject = intersectedObjects[0].object;
  319. + const intersectedObject = idToObject[id];
  320. + if (intersectedObject) {
  321. + //获取第一个对象,他是离鼠标最近的一个
  322. + this.pickedObject = intersectedObject;
  323. // 保存颜色
  324. this.pickedObjectSavedColor = this.pickedObject.material.emissive.getHex();
  325. // 设置对象在黄/红两色间闪烁
  326. this.pickedObject.material.emissive.setHex((time * 8) % 2 &gt; 1 ? 0xFFFF00 : 0xFF0000);
  327. }
  328. }
  329. }
  330. </pre>
  331. <p>接下来,我们就可以使用它了</p>
  332. <pre class="prettyprint showlinemods notranslate lang-js" translate="no">-const pickHelper = new PickHelper();
  333. +const pickHelper = new GPUPickHelper();
  334. </pre>
  335. <p>这里是将 <code class="notranslate" translate="no">pickScene</code> 传给helper,而不是<code class="notranslate" translate="no">scene</code>。</p>
  336. <pre class="prettyprint showlinemods notranslate lang-js" translate="no">- pickHelper.pick(pickPosition, scene, camera, time);
  337. + pickHelper.pick(pickPosition, pickScene, camera, time);
  338. </pre>
  339. <p>现在,你应该可以透过透明的部分进行拾取操作了</p>
  340. <p></p><div translate="no" class="threejs_example_container notranslate">
  341. <div><iframe class="threejs_example notranslate" translate="no" style=" " src="/manual/examples/resources/editor.html?url=/manual/examples/picking-gpu.html"></iframe></div>
  342. <a class="threejs_center" href="/manual/examples/picking-gpu.html" target="_blank">点击此处在新标签页中打开</a>
  343. </div>
  344. <p></p>
  345. <p>至此,对于如何实现拾取,希望此文能给你一些灵感。在后续的文章中,也许,我们可以看看如何使用鼠标操作对象。</p>
  346. </div>
  347. </div>
  348. </div>
  349. <script src="../resources/prettify.js"></script>
  350. <script src="../resources/lesson.js"></script>
  351. </body></html>