first_draft_edvac

First Draft of a Report on the EDVAC by John von Neumann Contract No. W{670{ORD{4926 Between the United States Army Ordnance Department and the University of Pennsylvania Moore School of Electrical Engineering University of Pennsylvania June 30, 1945 This is an exact copy of the original typescript draft as obtained from the University of Pennsylvania Moore School Library except that a large number of typographical errors have been corrected and the forward references that von Neumann had not �lled in are provided where possible. Missing references, mainly to unwritten Sections after 15.0, are indicated by empty fg. All added material, mainly forward references, is enclosed in f g. The text and �gures have been reset using TEX in order to improve readability. However, the original manuscript layout has been adhered to very closely. For a more \modern" interpretation of the von Neumann design see M. D. Godfrey and D. F. Hendry, \The Computer as von Neumann Planned It," IEEE Annals of the History of Computing, vol. 15 no. 1, 1993. Michael D. Godfrey, Information Systems Laboratory, Electrical Engineering Department Stanford University, Stanford, California, November 1992 CONTENTS 1.0 DEFINITIONS 1.1 Automatic digital computing systems : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : 1 1.2 Exact description of the functions of such a system : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : 1 1.3 Distinctions within the numerical material produced by such a system : : : : : : : : : : : : : : : : : : : 1 1.4 Checking and correcting malfunctions (errors), automatic possibilities : : : : : : : : : : : : : : : : : : : 1 2.0 MAIN SUBDIVISIONS OF THE SYSTEM 2.1 Need for subdivisions : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : 1 2.2 First: Central arithmetic part: CA : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : 1 2.3 Second: Central control part: CC : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : 2 2.4 Third: Various forms of memory required: (a){(h) : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : 2 2.5 Third: (Cont.) Memory: M : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : 3 2.6 CC, CA (together: C), M are together the associative part. A�erent and e�erent parts: Input and output, mediating the contact with the outside. Outside recording medium: R 3 2.7 Fourth: Input: I : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : 3 2.8 Fifth: Output: O : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : 3 2.9 Comparison of M and R, considering (a){(h) in 2.4 : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : 3 3.0 PROCEDURE OF DISCUSSION 3.1 Program: Discussion of all divisions (speci�c parts) enumerated in 2, together with the essential decisions : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : 4 3.2 Need for \Zigzag" discussion of the speci�c parts : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : 4 3.3 Automatic checking of errors : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : 4 4.0 ELEMENTS, SYNCHRONISM NEURON ANALOGY 4.1 Role of relay-like elements. Example. Role of synchronism : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : 4 4.2 Neurons, synapses, excitatory and inhibitory types : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : 5 4.3 Desirability of using vacuum tubes of the conventional radio tube type : : : : : : : : : : : : : : : : : : 5 5.0 PRINCIPLES GOVERNING THE ARITHMETICAL OPERATIONS 5.1 Vacuum tube elements: Gates or triggers : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : 6 5.2 Binary vs. decimal system : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : 6 5.3 Duration of binary multiplication : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : 6 5.4 Telescoping operations vs. saving equipment : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : 7 5.5 Role of very high speed (vacuum tubes): Principle of successive operations. Time estimates : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : 7 5.6 Reformulation of the principle : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : 8 5.7 Further discussion of the principle : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : 8 i ii CONTENTS 6.0 E-ELEMENTS 6.1 Reasons for the introduction of a hypothetical E-element : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : 8 6.2 Description of the simple E-element : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : 9 6.3 Synchronism, gating by a central clock : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : 9 6.4 The role of thresholds. E-elements with multiple thresholds. Multiple delays : : : : : : : : : : : : 10 6.5 Comparison with vacuum tubes : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : 10 7.0 CIRCUITS FOR THE ARITHMETICAL OPERATIONS +;� 7.1 Method of feeding in binary numbers: Digits in temporal succession : : : : : : : : : : : : : : : : : : : : : 11 7.2 E-element networks and block symbols : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : 11 7.3 The adder : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : 11 7.4 The multiplier: Memory requirements : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : 12 7.5 Discussion of the memory. Delays : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : 12 7.6 Discussion of delays : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : 13 7.7 The multiplier: Detailed structure : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : 13 7.8 The multiplier: Further requirements (timing, local input and output) : : : : : : : : : : : : : : : : : : : 14 8.0 CIRCUITS FOR THE ARITHMETICAL OPERATIONS −;� 8.1 Treatment of the sign : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : 15 8.2 The subtracter : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : 15 8.3 The divider: Detailed structure : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : 16 8.4 The divider: Further requirements (cf. 7.8) : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : 17 9.0 THE BINARY POINT 9.1 The main role of the binary point: For �;� : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : 18 9.2 Connection with the necessity of omitting digits after �. Decision: Only numbers between −1 and 1 : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : 18 9.3 Consequences in planning. Rules for the operations +;−;�;� : : : : : : : : : : : : : : : : : : : : : : : : : : 18 9.4 Rounding o�: Rule and E-element network : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : 19 10.0 CIRCUIT FOR THE ARITHMETICAL OPERATION p . OTHER OPERATIONS 10.1 The square rooter: Detailed structure : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : 19 10.2 The square rooter: Further observations : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : 20 10.3 List of operations: +;−;�;� : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : 21 10.4 Exclusion of certain further operations : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : 22 CONTENTS iii 11.0 ORGANIZATION OF CA. COMPLETE LIST OF OPERATIONS 11.1 Input and output of CA, connections with M : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : 22 11.2 The operations i; j : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : 23 11.3 The operation s : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : 24 11.4 Complete list of operations: +;−;�;�;p ; i; j; s and conversions : : : : : : : : : : : : : : : : : : : : : : : : 24 12.0 CAPACITY OF THE MEMORY M. GENERAL PRINCIPLES 12.1 The cyclical (or delay) memory : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : 25 12.2 Memory capacity: The unit. The minor cycle. Numbers and orders : : : : : : : : : : : : : : : : : : : : : 25 12.3 Memory capacity: Requirement of the types (a){(h) of 2.4 : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : 26 12.4 Memory capacity: Total requirements : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : 28 12.5 The delay memory: Physical possibilities : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : 28 12.6 The delay memory: Capacity of each individual dl and the multiplication time. The number of dl ’s needed : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : 29 12.7 Switching vs. temporal succession : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : 31 12.8 The iconoscope memory : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : 32 13.0 ORGANIZATION OF M 13.1 dl and its terminal organs A and SG : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : 34 13.2 SG and its connections : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : 34 13.3 The two on states of SG : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : 35 13.4 SG and its connections: Detailed structure : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : 35 13.5 The switching problem for the SG : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : 36 14.0 CC AND M 14.1 CC and the orders : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : 37 14.2 Remarks concerning the orders (b) : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : 37 14.3 Remarks concerning the orders (c) : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : 37 14.4 Remarks concerning the orders (b). (Continued) : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : 38 14.5 Waiting times. Enumeration of minor and major cycles : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : 38 15.0 THE CODE 15.1 The contents of M : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : 39 15.2 Standard numbers : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : 39 15.3 Orders : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : 39 15.4 Pooling orders : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : 41 15.5 Pooling orders. (Continued) : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : 41 15.6 Formulation of the code : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : 42 iv CONTENTS FIGURES 1 Synchronization|clock pulses : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : 10 2 Threshold 2 neuron by combining Threshold 1 neurons : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : 10 3 Adder : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : 11 4 Elementary memory. (E-element) : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : 12 5 Line of E-elements : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : 12 6 Same with gate network : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : 13 7 Simple valve : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : 13 8 Simple discriminator : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : 14 9 Multiplier : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : 14 10 Complement valve : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : 15 11 Subtracter : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : 16 12 Complete discriminator : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : 16 13 Divider : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : 17 14 Rounding o� valve : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : 19 15 Square rooter : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : 20 16 Input and output of CA : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : 23 17 Connections of input and output in CA : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : 23 18 Ampli�cation, switching and gating scheme of a dl : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : 30 19 Individual and serial cycling of a dl aggregate (a), (b) : : : : : : : : : : : : : : : : : : : : : : : : : : : : : 30 20 Connections of a dl in detail : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : 35 21 SG0, preliminary form of SG : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : 36 22 Supplementary connections of the L : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : 36 1.0 DEFINITIONS 1.1 The considerations which follow deal with the structure of a very high speed automatic digital computing system, and in particular with its logical control. Before going into speci�c details, some general explanatory remarks regarding these concepts may be appropriate. 1.2 An automatic computing system is a (usually highly composite) device, which can carry out instructions to perform calculations of a considerable order of complexity|e.g. to solve a non-linear partial di�erential equation in 2 or 3 independent variables numerically. The instructions which govern this operation must be given to the device in absolutely exhaus- tive detail. They include all numerical information which is required to solve the problem under consideration: Initial and boundary values of the dependent variables, values of �xed parameters (constants), tables of �xed functions which occur in the statement of the problem. These instruc- tions must be given in some form which the device can sense: Punched into a system of punchcards or on teletype tape, magnetically impressed on steel tape or wire, photographically impressed on motion picture �lm, wired into one or more �xed or exchangeable plugboards|this list being by no means necessarily complete. All these procedures require the use of some code to express the logical and the algebraical de�nition of the problem under consideration, as well as the necessary numerical material (cf. above). Once these instructions are given to the device, it must be able to carry them out completely and without any need for further intelligent human intervention. At the end of the required operations the device must record the results again in one of the forms referred to above. The results are numerical data; they are a speci�ed part of the numerical material produced by the device in the process of carrying out the instructions referred to above. 1.3 It is worth noting, however, that the device will in general produce essentially more numerical material (in order to reach the results) than the (�nal) results mentioned. Thus only a fraction of its numerical output will have to be recorded as indicated in 1.2, the remainder will only circulate in the interior of the device, and never be recorded for human sensing. This point will receive closer consideration subsequently, in particular in f12:4g. 1.4 The remarks of 1.2 on the desired automatic functioning of the device must, of course, assume that it functions faultlessly. Malfunctioning of any device has, however, always a �nite probability| and for a complicated device and a long sequence of operations it may not be possible to keep this probability negligible. Any error may vitiate the entire output of the device. For the recognition and correction of such malfunctions intelligent human intervention will in gene