<div dir="ltr"><font size="4">Karl – </font><div><font size="4"><span class="gmail_default">A</span>gain, thank you for your note.<br><br>Gordana – </font></div><div><font size="4"><span class="gmail_default">Y</span>es, I can understand your surprise in that I have not explored ChatGPT. My foremost reason is that I am skeptical of statistical views of ‘intelligence’ – that is not how Nature works, instead requiring functional analysis. Also, in reviewing papers for ICLR 2025, I was offered a ‘trial’ ChatGPT bot for improving paper reviews. My impression was the ‘bot’ simply added a few flattering comments on my ‘good insights’, and then fed back my own views, with differently arranged but similar terms. It did inspire me to alter my review a bit to make it more ‘friendly/encouraging’ – but the essence was unchanged. Thus, I found it <span class="gmail_default" style="font-size:large">somewhat </span>useful, but not radically so.<br><br>Also, I just now tried using ChatGPT’s writing: <a href="https://urldefense.com/v3/__http://siribot.cn__;!!D9dNQwwGXtA!V1Nd33uMwIcvxeEhan-IFjU0VSqQXWz_zKPLGI3g7_2PdoJ9AfLfv5HC0Ie1Nw98pPtBuLKlY1foLTsr$">siribot.cn</a>, Academic Assistant Pro – I gave it my paper’s abstract to see what improvements it might offer. The result was disappointing and did not even reach the level of utility I saw for the bot I used for my ICLR review. It significantly obscured the abstract, <span class="gmail_default" style="font-size:large">with </span>what might be considered a ‘traditional academic’ framing. Still, I will explore a bit more before abandoning ChatGPT wholly.<br><br>My overall impression of statistical models of intelligence is that they can present countless opportunities – say for example ‘flying monkeys’ – but no matter how many times a ‘bot’ presents/writes/draws a ‘flying monkey’ it will never produce a ‘flying monkey’. The bot cannot detail the ontology, epistemology, genomics, etc. of ‘flying monkeys’, such that we ever have <span class="gmail_default" style="font-size:large">any </span>actual ‘intelligence’ about flying monkeys. <br><br>I believe such ‘statistical black-box bots’ merely extend Shannon’s ‘statistical surprise’, moving from entropically recombined <span class="gmail_default" style="font-size:large"></span>d<span class="gmail_default" style="font-size:large">iscrete</span> characters, onto recombined words, phrases, sentences, (growing in complexity), etc. until outputs <span class="gmail_default" style="font-size:large">finally </span>resemble something looking like ‘intelligence’. The varied statistical (proprietary) filters one develops and <span class="gmail_default" style="font-size:large"></span>u<span class="gmail_default" style="font-size:large">ses</span> along this extended statistical chain is the only thing mak<span class="gmail_default" style="font-size:large">ing</span> this possible<span class="gmail_default" style="font-size:large">, but that is not *actual* intelligence.</span><br><br>Jason – on your thought experiment note. This problem of useful ‘thought experiments’ is the crux of the matter. For example, how does one from 200 years ago detail today’s experience of ‘modern air travel’ and all <span class="gmail_default" style="font-size:large">that </span>it entails – <span class="gmail_default" style="font-size:large"></span>a<span class="gmail_default" style="font-size:large">kin to</span> Arthur C. Clark’s “sufficiently advanced technology indistinguishable from magic”? What you ask for goes beyond implied ‘simple tools’. Looking backward we easily see this (<span class="gmail_default" style="font-size:large">innovation is </span>plainly evident), but looking forward is entirely different<span class="gmail_default" style="font-size:large"> and defies simple description.</span><br><br>Karssimir – no, I was not suggesting collaboration, but suggesting your ‘definition’ could benefit from critical review here on FIS. My own interests long-ago moved onto deeper issues of intelligence (recent AI workshop submissions)<span class="gmail_default" style="font-size:large">,</span> beyond what you <span class="gmail_default" style="font-size:large"></span><span class="gmail_default" style="font-size:large">examine</span>. For example, Howard’s note on emergence points to just one missing aspect <span class="gmail_default" style="font-size:large">one </span>need<span class="gmail_default" style="font-size:large">s</span> to cover <span class="gmail_default" style="font-size:large"></span>i<span class="gmail_default" style="font-size:large">n</span> a comprehensive definition of information.</font></div><div><font size="4"><br></font></div><span class="gmail_default" style="font-size:large">M</span><span class="gmail_default" style="font-size:large">arcus</span></div>